THE MISINFORMATION AGE_Cailin_OConnor


EE 488,40 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる仕組み (英語版)
著者: ケイリン・オコナーとジェームズ・オーウェン・ウェザーホール

目次
読者へのメモ
はじめに
タタールの羊
第一章
真実とは何か？
第二章
分極化と同調
第三章
人々の福音化
第四章
ソーシャルネットワーク
注釈
参考文献
謝辞
索引

読者へのメモ
本書では、個々の「エージェント」を指す際に、複数形の代名詞「彼ら」や「彼らを」を使用しています。この表現は、社会的学習の数学的および計算モデルにおける関連する学術文献の慣習に従っています。読者によっては奇妙に思えるかもしれませんが、これは（1）抽象的な存在に性別を割り当てないこと、（2）その存在の「主体性」を保つことを意図しています。単数形の「それ」を使用すると、その主体性が失われてしまうからです。

14世紀中頃、イギリスの騎士サー・ジョン・マンデビルの旅行記を名乗るテキストが、ヨーロッパの学者たちの間で広まり始めました。このテキストによれば、マンデビルはアジア小アジア、北アフリカ、そしてインドを旅し、西ヨーロッパでは知られていない多くのことを経験したとされています。その中には、インドの木に実るウリのような果実があり、その中には肉と血を持った小さな子羊がいるという驚くべき話が含まれていました。マンデビルはこの果実を食べ、その味を「素晴らしい」と表現したと主張しています。

彼だけがこの奇妙な植物について言及したわけではありません。イタリアの修道士オドリックも、約30年前に東方を旅した際に似たような体験を書き残しています。彼は果実を食べたとは主張せず、「信用に足る人々」からその存在を聞いたと述べています。

この子羊の植物、後に「タルタリーの野菜の子羊」として知られるようになったものは、中世の人々の想像力を掻き立てました。タルタリーの野菜の子羊は、著名な自然主義者や植物学者によって事実として報告され、彼らの中にはそれを研究し、その毛を見たと主張する者もいました。これらの主張は17世紀まで続き、植物と動物、動物同士のハイブリッドに関する書籍が出版され、その中でタルタリーの野菜の子羊は有名な例の一つとして取り上げられました。（科学的な文献に登場した存在しない獣の別の例としては、ジャッカロープに驚くほど似た角のあるウサギがありました。ジャッカロープはアメリカ南西部の神話上の生き物で、ウイスキーを好み、カウボーイの声を真似ることができるとされています。）

タルタリーの野菜の子羊が全盛期を迎えていた時期でも、懐疑的な意見は存在しました。16世紀に神聖ローマ帝国からロシアに派遣された大使バロン・フォン・ヘルベルシュタインは、タルタリーの野菜の子羊が最初は信じがたいものに思えたと報告しています。しかし、彼がこの問題を調査するにつれて、彼は次第に信じるようになり、特に多くの「信用に足る人々」がこの美味しい肉とふわふわの雪のような白い毛を持つ子羊のさやについて直接の体験を語ったことから、信じるようになったのです。

彼が聞いたさまざまな話は「ほとんど違いがなかった」ため、彼は「この件には彼が思っていた以上に真実があるのではないか」と信じるようになった。もちろん、そのような植物は存在せず、かつても存在したことはない。また、他にそのようなハイブリッドも存在しない。しかし、マンデビルの著作が発表されてから約4世紀後、ヨーロッパの植物学者や生物学者たちは、ベジタブルラムが神話であることを認識するようになった。1683年、スウェーデンの博物学者エンゲルベルト・ケンプファーは、チャールズ11世の直接の命令を受けて、小アジアで体系的な調査を行い、世界にベジタブルラムは存在しないことを明確に証明した。なぜ何世紀にもわたり、ヨーロッパの学者たちは「子羊が木に生える」と確信を持って主張できたのか？なぜ、植物や動物に関するすべての経験、さらには子羊に対する定期的な接触を考慮すれば、全く証拠のない信念が、単にばかげているはずなのに、何世紀も続いたのか？もっと重要なのは、そのような信念がどのように形成され、広まったのか、さらにはいわゆる専門家の間でもそのメカニズムが今も存在するのかということだ。今日のベジタブルラムは何であり、私たちの中にそれを信じている人はどれくらいいるのだろうか？

2016年9月26日、ドナルド・トランプがアメリカ合衆国の大統領に選ばれる約6週間前、ETFニュース（endingthefed.com）というウェブサイトが「教皇フランシスコ、世界を驚かせる。ドナルド・トランプを大統領として支持する声明を発表」という見出しのストーリーを掲載した。このストーリーには、教皇からの声明が含まれており、彼がトランプを支持することに決めたのは、FBIが彼の対立候補であるヒラリー・クリントンに対して刑事告発を追及しなかったからだと主張していた。（FBI長官ジェームズ・B・コミーは、2016年7月5日に、クリントンが国務長官を務めていた際に個人用メールサーバーを使用していた件についての調査を終了したと発表した。調査官たちは、法律に違反する意図がないことを確認したため、起訴を推奨しなかった。）ETFニュースによれば、「FBIは、あまりにも強力になりすぎた政治的勢力に腐敗していることを暴露した」と教皇は述べた。「私はトランプ氏に賛成するわけではありませんが…」

トランプに関して、私はある問題について、アメリカの連邦政府全体を腐敗させた強力な政治勢力に対抗して投票することが、真に人民のため、人民による政府を望む国にとって唯一の選択肢だと感じています。

この記事は、投稿されてから選挙までの間にFacebookで96万回シェアまたは「いいね！」されました。（この記事を見たユーザーの総数、さらにはクリックしたユーザーの数は、おそらくその10倍以上です。）選挙の3ヶ月間で、Facebook上で最もシェアされた選挙関連のニュースアイテムでした。それに対して、同じ期間に信頼できるニュースソースからシェアされた最も人気のある記事は、ワシントン・ポストの意見記事「トランプの腐敗の歴史は驚くべきものだ。では、なぜクリントンが『腐敗した者』とされるのか？」で、849,000回シェアされました。（もちろん、この作品も明らかに偏ったもので、標準的な意味での「ニュース」とは言えませんが、記事の報道はETFニュースの捏造よりもはるかに高いジャーナリズム基準を満たしていました。）対照的に、クリントンは18州で25万票未満の差で敗れ、ウィスコンシン、ミシガン、ペンシルベニアではそれぞれ5万票未満の差で負けました。もしこれらの3州が逆転していたら、クリントンが選挙に勝っていたでしょう。

もし教皇がトランプを支持していたら、それは大きなニュースとなり、多くのニュース組織によって広く報道され、注目に値するものであったでしょう。しかし、それは実際には起こりませんでした。この話全体は捏造されたもので、教皇の支持は選挙サイクルの中で最大の「フェイクニュース」ストーリーでしたが、これは決して例外ではありません。BuzzFeed Newsのクレイグ・シルバーマンによる分析では、選挙の3ヶ月前に最もシェアされた20のフェイクニュースストーリーがFacebookで合計870万回シェアまたは「いいね！」されました。同じ期間に、信頼できるソースからのトップ20のニュースストーリーは、わずか730万回のシェアまたは「いいね！」を得ただけでした。別の研究では、ニューヨーク大学のハント・オルコットとスタンフォード大学のマシュー・ジェンツコウが、トランプ支持のフェイクニュース115件とクリントン支持のフェイクニュース41件のデータベースを作成し、これらは選挙の数週間前に合計3800万回シェアされたと推定されました。これらのシェアは、数億回のクリックを生み出したとされています。また、彼らは合計で2% 4/2538 + {iRENo. 83/5229

S495) <ms
Xl #2840 Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)
Drei RR BH OY AD
dl
Com
vy a) xo oo N
E
10月8日から11月8日までの間に、159百万回の訪問がありました。ETFニュースは特に成功を収め、5つのストーリーがトップ20に入り、これらのストーリーはこの期間中に350万回のシェアや「いいね」を獲得しました。ETFは選挙の数ヶ月前において、インターネット上で最も人気のある「ニュース」ソースだったと言えるでしょう。そのストーリーには、クリントンがイスラム国に武器を直接売却したという非難や、彼女が公職に就く資格がないというアメリカ連邦法、元FBI長官のジェームズ・コミーがクリントン財団から数百万ドルを受け取ったという主張、そしてオバマ大統領がアメリカ軍の給与を削減したという内容が含まれていました。

特に注目すべきケースとして、ETFニュースの記事がテレビ司会者メーガン・ケリーに関するもので、Facebookで「トレンドトピック」となり、サイトによって積極的にプロモーションされました。この記事では、ケリーが「裏切り者」として暴露され、ヒラリー・クリントンを支持したためにフォックスニュースを解雇されたと主張されていました。（トランプとケリーの間の対立は、2015年8月6日の共和党予備選討論会で、ケリーがトランプに女性に対する過去の侮辱的な発言について鋭い質問をしたことから始まりました。トランプは後に、ケリーの批判が彼女の月経周期に起因するかのような発言をしました。）

これらのストーリーはどれも真実ではありませんでした。多くはオリジナルではなく、他の偽ニュースサイトから直接転載されたものでした。例えば、教皇の支持に関するストーリーは、WTOE 5ニュースというサイトに最初に掲載され、アメリカのさまざまな小さな町にセレブが移住する計画があると主張する偽ニュースサイトのネットワークの一部でした。（このサイトは現在存在しません。）他の記事は、supremepatriot.comやproudcons.comなどのサイトから、無断でそのまま転載されていました。しかし、なぜかETFニュースに掲載されたバージョンは、オリジナルよりもはるかに多くソーシャルメディアでシェアされました。

「野菜の子羊」に対する信念の持続と広がりは、最終的には無害な歴史的好奇心でした。しかし、今日の「野菜の子羊」は…

#3280 Kindle for PC
4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)

私たちは、アメリカだけでなく、イギリスやヨーロッパでも大きな政治的力となっている。アメリカ合衆国と欧州連合（EU）には、約10億人が住んでおり、さらに何十億人もの人々がこれらの国々の軍事、貿易、移民政策の影響を受けている。トランプの選挙やイギリスのEU離脱（「ブレグジット」）の是非についてどう考えるかは別として、これらの重要な政治的出来事が虚偽によって支えられていたと考えることは非常に不安を感じさせる。そして、深刻な疑問を提起する：フェイクニュースの時代に、民主主義は生き残れるのか？これは信念についての本であり、真実や知識、科学や証拠についての本でもある。しかし、何よりもこれは偽りの信念についての本である。私たちはどのように信念を形成するのか、特に偽りの信念をどのように形成するのか？それらはどのように持続するのか？なぜ広がるのか？圧倒的な証拠があっても、なぜ偽りの信念は頑固なのか？そして、最も重要なのは、私たちはそれをどのように変えることができるのか？

これは当たり前のことのように聞こえるかもしれないが、言う価値がある：私たちの世界に対する信念は重要である。それは私たちが毎日下す決定に影響を与える。妊娠中に寿司を食べるか？それはあなたの信念による。魚に含まれるオメガ-3脂肪酸が赤ちゃんの脳の発達を促進すると信じているか？魚に含まれる水銀が赤ちゃんに害を及ぼすと信じているか？この特定のレストランにリステリアがいる可能性はどれくらいか？信念はまた、経済政策や公衆衛生、環境など、私たちが社会として下す決定にも影響を与える。自動車の排出量を制限するか？それは、これらの排出が公衆衛生にどのように影響するか、制限が経済成長にどのように影響するかという私たちの信念による。政府の借金を制限するか？それは、その借金が私たちの将来の幸福に影響を与えるかどうかについての私たちの信念による。このような信念は無意味ではなく、それに基づいて下す決定には現実の結果が伴う。もしあなたが誤ったことを信じ、その信念に基づいて決定を下すなら、大きな海の魚には多くの水銀が含まれていないと信じている、あるいは水銀が有害でないと信じているなら、妊娠中に寿司を食べるかもしれず、結果として胎児の水銀中毒のリスクを高めることになるかもしれない。

もしあなたが、高い政府の借金が経済に悪影響を与えると信じているなら、たとえ金利が低くても、借金を減らす政策に投票するでしょう。たとえそれが政府サービスや景気刺激策のコストを増加させるとしてもです。このように信念が重要であるということは、誤った信念を持つことが私たちに害を及ぼす可能性があることを意味します。そして、それが持続する力が驚くべきものであることを示しています。誤った信念がなぜ持続し、広がるのかを理解するためには、まず信念がどこから来るのかを理解する必要があります。信念のいくつかは、私たちの個人的な経験から生まれます。私たちはこれまでに何度もトマトを食べてきましたが、特に悪影響を感じたことはないので、トマトは危険ではないと信じています。（ちなみに、これはヨーロッパ人が自ら発見するのに200年以上かかったことです。「毒リンゴ」と呼ばれるものは、長い間食べるのが危険だと考えられていました。）私たちは、定期的な運動や十分な睡眠が気分を良くする助けになると信じており、寒さが唇を乾燥させる原因になると考え、ゴファーが庭の害虫になることがあると信じています。これらの信念はすべて、私たちの周りの世界との直接的な経験に基づいています。

誤った信念、つまり利用可能な証拠と矛盾する信念を持つとき、私たちはそれを世界から受け取る情報を適切に処理できないことが原因だと考えるかもしれません。誤った信念は、認知バイアスや盲点、つまり私たちの経験から信頼できる推論を引き出すのを妨げる人間心理の特性の結果かもしれません。または、経験不足や教育の欠如から来ているのかもしれません。あるいは、誤った信念を持つ人々は、目の前に証拠があっても真実を見るのがあまりにも難しいのかもしれません。私たちはしばしば知性を、さまざまな状況下で信頼できる推論を引き出す能力の尺度として考えます。誤った信念は、推論を正しく行えていないことを示していると考えられます。このような要因が誤った信念が形成される理由を説明する上で役割を果たしていることは確かです。しかし、個々の心理や知性に焦点を当てることは、誤った信念が持続し広がる理由を誤って診断することになります。それは私たちを誤った解決策へと導くのです。私たちの信念の多くは、

Xl #48240  
Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)  
4th RR BH Yow AN  

大きな魚に水銀が含まれているのか？私たちのほとんどは、水銀レベルをテストする方法をまったく知らない。私たちは他者からの情報に頼るしかない。これは、私たちが持つほぼすべての科学的信念に当てはまる。もしアメリカのほとんどの人に、地球が太陽の周りを回っているのか、それともその逆なのかを尋ねれば、彼らは地球が動いていると答えるだろう。（少なくとも、2012年に行われた国立科学財団の調査によれば、74パーセントがそう答える。）彼らは（おおむね）正しい。しかし、彼らがそう知っているのは、誰かがそう言ったからに過ぎない。プロの科学者でさえ、特定の研究テーマに取り組むことが多く、人間の知識のごく一部にしか関わっていないため、ほとんどの科学的信念は他者に依存している。このことは、私たちの社会の最もエリートな専門家でさえ、他者の証言に基づく誤った信念に影響されやすいことを意味する。中世ヨーロッパの科学者や思想家たちが、植物の子羊とその「素晴らしい肉」について非常に詳しかったことを思い出してほしい。

情報を共有し、お互いの信念に影響を与える能力は、人間を特別な存在にしている要素の一つだ。それは科学や芸術、さらにはあらゆる文化を可能にする。しかし、それは同時に難問を引き起こす。私たちは、他人が言うことをどのように信頼すればよいのだろうか？もし「信頼できる人」が、植物の子羊が確かに存在すると言ったり、教皇がドナルド・トランプを支持したと言った場合、あなたはその人を信じるだろうか？もしあなたの知っている賢くて教育を受けた人たちが皆、植物の子羊を信じていたらどうだろう？もし友人たちがソーシャルメディアで植物の子羊に関する記事を投稿し、植物の子羊を否定する人々の無知を大声で笑っていたら？ほとんどの人にとって、ほとんどの時間、これだけで「はい、たぶんこの件にはもっと真実がある」と納得してしまうだろう。

私たちが社会的なコミュニケーションのチャンネルを開くと、すぐにトレードオフに直面する。できるだけ多くの真実の信念を持ちたいのであれば、私たちは聞いたことすべてを信じるべきだ。この方法で、私たちの社会的ネットワークを通じて流れるすべての真実の信念が、私たちの信念体系の一部となる。そして、誤った信念の数を最小限に抑えたいのであれば、何も信じてはいけない。そうすれば、私たちは決して植物の子羊に騙されることはない。

もちろん、真実だけを信じ、偽りを決して信じないのが最善ですが、他人から聞いたことだけを基に判断しようとする人にとっては、真実と偽りを区別するのは難しいものです。私たちの多くは、同じ情報源から誤った信念を得ています。

中世の文献における「野菜の子羊」の持続性を説明する要因は、植物学や自然界とは無関係です。それは純粋に社会的な現象でした。「野菜の子羊」とフェイクニュースについて考える際には、信念の社会的な性質を理解し、広がる偽情報が私たちの真実を学ぶための最も強力な手段に対する必要不可欠だが有害な副産物であることを認識する必要があります。

私たちは誤情報の時代に生きています。スピン、マーケティング、そして明白な嘘が横行する時代です。嘘をつくこと自体は新しいことではありませんが、故意に誤った情報や誤解を招く情報を広めることは、過去1世紀で爆発的に増加しました。これは、情報を広めるための新しい技術（ラジオ、テレビ、インターネット）や、私たちを誤導しようとする人々の洗練度の向上によって推進されています。

この誤情報の多くは、プロパガンダの形を取ります。これは、特定の見解を促進するため、あるいは挑戦するために、しばしば政府や政治組織によって制作される素材です。マスメディアのプロパガンダは、政府が自国の市民をコントロールし、国内外の競争相手の政治的運命に影響を与えるための長年の手段です。アメリカやヨーロッパのメディア消費者は、ロシア政府が資金提供する英語のRTメディア組織やスプートニクニュースなど、外国の敵によって制作されたプロパガンダに定期的にさらされています。これらは、アメリカやイギリスの政治イベントについて報道しています。また、イギリスのBBCのような国内の政府支援メディアにも触れています。さらに、左派や右派の「傾向」を持つニュースソースから、陰謀論や噂、フェイクニュースを扱うソースまで、政治的に動機づけられたメディアは、国家運営のプロパガンダサービスと同様の役割を果たしています。しかし、政治的プロパガンダは…（文章が途切れています）。

後者の典型的な例は、20世紀後半にタバコ会社が行った、喫煙と肺癌の関連を示す研究を妨害し、弱体化させるためのキャンペーンです（この例については第3章で詳しく説明します）。タバコ会社は「専門家」に報酬を支払い、実際よりもはるかに多くの不確実性があり、合意が少ないという印象を作り出しました。このキャンペーンは、喫煙を減少させるための規制や公衆衛生の取り組みを、世代以上に遅らせることに成功しました。科学史家のナオミ・オレスケスとエリック・コンウェイが著書『疑念の商人たち』で詳細に記録しているように、タバコメーカーが開発した手法は、エネルギー産業やそれに関連する科学者、政治家によって模倣され、気候変動の深刻さや原因に関する不確実性の印象を作り出しています。

政治的なプロパガンダから、政治的動機によるメディア、産業利益によって形作られた科学研究に至るまで、意図的に偏った、誤解を招く、不正確な情報のすべての源は、誤った信念の起源と広がりに重要な役割を果たしています。マンデビルの偽の回顧録が「植物の子羊」の広範な受容をもたらしたように、偽ニュースや偽科学もまた重要な情報源です。しかし、誤情報の単なる導入だけでは、その広範な受容を説明することはできません。「植物の子羊」に対する信念とは異なり、喫煙の健康リスクに関する誤った信念を持つことには深刻な結果があります。そして、癌と喫煙の関連を示す決定的な証拠には大規模な疫学的データと慎重な実験が必要ですが、過去100年間、多くの人々が愛する人々—喫煙者—が早すぎる痛ましい死を迎えるのを見てきました。これは、他の要因がそれを上回らない限り、信念に影響を与えるべき直接的な経験です。それでは、プロパガンダはどのようにして、直接的な経験や慎重な科学的調査からの証拠の重みを上回ることができるのでしょうか？私たちは、プロパガンダが「植物の子羊」や教皇の大統領支持が持続し広がることを可能にした社会的要因を利用することによって機能することが多いと主張します。

タバコ喫煙のケースにおいて、不確実性を生み出そうとする人々は、社会ネットワーク内での信念の広がり方や、このプロセスを調整する人間の傾向を利用することができました。その結果、何百万もの人々が防げたはずの死を経験しました。本書では、信念、特に誤った信念の広がりを理解するためには社会的要因が不可欠であると主張します。私たちは、誤った信念がどのように広がるのかを説明し、これらのメカニズムが時には直感に反して、真実に到達するための試みにおいて非常に価値がある理由について議論します。これらの社会的影響を正しく理解することで、誤った信念が実際の世界において重要な結果をもたらし続ける理由を完全に理解することができます。特に、フェイクニュースが本物のニュースを圧倒し、選挙や政策に影響を与える時代において、この理解は成功した対応策を作成するための必要なステップです。

私たちの議論は、世界について学ぼうとする人々のコミュニティを通じて広がった誤った信念の歴史的（および最近の）例に基づいています。これらの例の多くは、最初の章では科学に関するものです。私たちは、科学者のグループがどのように誤った信念を持つに至ったのか、そしてその信念がどのようにしてその誤りを示す説得力のある証拠が現れても持続したのかを議論します。また、科学者が以前に持っていた信念を誤りとして拒絶するようになったケースについても触れます。私たちが主張するように、科学者も私たちと同様に、社会的なつながりのネットワークに強く影響されます。

しかし、私たちの例のほとんどが科学から来ているという事実は、私たちの焦点が科学者の持つ信念に限られていることを意味するわけではありません。むしろ、ここで議論する社会的考慮が、ほぼすべての誤った信念の持続と広がりを理解するために重要であると主張したいのです。私たちは科学者に焦点を当てていますが、ほとんどの科学者は、世界について学ぶために最善を尽くしており、利用可能な最良の方法を用い、入手可能な証拠に注意を払っています。彼らは証拠を収集し分析するための訓練を受けており、一般的に情報に精通しています。

IX #2240 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)

科学者に焦点を当てる理由はもう一つあります。最終的には、私たち全員が個々に、そして集団として、世界で行動する必要があり、その行動の成功は、実際の世界に関する事実に依存しています。もし私たちが自分たちの行動の結果を正しく予測したいのであれば（もちろん、そうしたいと思っています）、私たちは利用可能な証拠の集まりに注意を払う必要があります。これを行うとき、私たちはしばしば科学者のように行動します。過去に何が起こったのかを学び、物事がなぜそのように起こるのかを理解し、さまざまな選択をした場合に未来に何が起こるかを予測しようとします。私たちは皆、経験を持ち、それを思い出し、その経験に基づいて信念を変えます。科学者たちは、少なくとも科学を行う際には、このプロセスをより体系的に行おうとします。したがって、私たちは科学を、私たちが世界で道を切り開こうとする際に行っていることの極端なバージョンとして見ています。

しかし、特定の例を分析することは私たちの戦略の一部に過ぎません。もう一つの部分は、科学自体の方法論に基づいています：コンピュータシミュレーションや数学的モデリングです。過去20年間、科学哲学者たちは経済学や進化生物学などの分野からモデルやアイデアを取り入れ、「認識共同体」を理解するために応用してきました。つまり、世界についての知識を得ようとする人々の共同体です。これらのモデルを用いる科学哲学者たちは、主に科学者の共同体を対象にしてきましたが、本書で後に論じるように、彼らが開発したモデルははるかに広範な応用が可能です。これらは、証拠を集め、信念を共有する人々のあらゆる共同体を理解するのに役立ちます。

人間の学習のような複雑なものを理解するために数学的モデルを使用する理由は何でしょうか？大規模な社会的影響を研究することは、観察的または実験的な方法を用いると非常に難しい場合があります。これは、働いているプロセスが時間と空間に広く分散しており、しばしば数百人または数千人の人々を含むからです。

異なる状況下で物事がどのように展開したかについて、科学者たちが通常行うように介入したり質問したりするのは難しいことです。これが、シミュレーションやモデリングが役立つ理由の一つです。人々がアイデアを共有するグループを模倣するシンプルなコンピュータープログラムを構築することで、こうしたグループがどのように学ぶかに影響を与える要因について仮説を検証することが可能になります。これにより、現実世界での観察を解釈する手助けとなり、人間の相互作用の複雑さを新たな視点で理解する方法を示唆することもできます。

これらのモデルの分析は、私たち自身の基本的な概念を変える可能性があります。西洋文化には、人間は本質的に合理的であり、事実と虚構を巧みに区別し、最終的には世界についての普遍的な真実に到達するという広く浸透した考え方があります。この考え方は、人間が論理のルールに従い、確率を正確に計算し、利用可能なすべての情報に基づいて完全に情報を得た上で世界についての決定を下すという前提に立っています。逆に、効果的で十分に情報に基づいた決定を下せないことは、しばしば人間の推論の失敗に起因するとされ、心理的な特性や認知バイアスがその原因とされます。このような考え方では、成功するか失敗するかは、個々の人間が合理的で知的であるかどうかにかかっています。したがって、より良い結果—より真実に近い信念やより良い決定を達成したいのであれば、個々の人間の推論を改善することに焦点を当てる必要があります。

社会的学習のモデルは、人間の学習と合理性に関するこの見方が危険にさらされていることを示してくれます。これらのモデルから見えるのは、他者から学ぶ完全に合理的（とはいえ単純な）エージェントであっても、十分な証拠があるにもかかわらず、世界についての真実の信念を形成できないことがあるということです。このような個人とグループレベルの合理性の間の乖離は、人間の信念を理解する上で重要な教訓を持っています。

人間は、進化の環境で生き残るために必要な能力を持つように進化した動物です。最も重要なのは、私たちが社会的な動物であるということです。私たちは社会的なグループで生活するように進化し、これらのグループを利用して世界についての知識や理解を共有し、創造する能力を持っています。

Xl 8482/0 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版) - oO x
これらのモデルは、他の分野からの証拠と組み合わせることで、私たちの情報処理能力や意思決定の（不）能力について驚くべき状況を提供します。これにより、ベジタブルラムの説明ができるだけでなく、はるかに危険な信念がどのように根付き、広がるのかを理解する手助けとなります。

1964年の政治風刺映画『博士ストレンジラブ』では、アメリカ空軍のジャック・リッパー将軍が一方的にソ連に対して核攻撃を仕掛けます。彼の動機は、ソ連の攻撃から「貴重な体液」を守ることです。これは、1950年代と1960年代に極右のジョン・バーチ協会によって広められた、水のフッ素添加がアメリカに対する共産主義の陰謀であるという信念を示唆しています。このような純粋な推測に基づく証拠に基づく公衆衛生介入の拒絶は、長い間アメリカの公共生活の一部でした。

しかし、ジョン・バーチ協会やその仲間たちが水のフッ素添加に対する反対において誠実であったとしても、彼らは20世紀の間、確固たる周辺に留まっていました。しかし、今日の状況は異なっているようです。地球温暖化、ワクチン接種、遺伝子組み換え食品などの公衆衛生問題に関する証拠の乏しい議論は、主流の政治討論の中で広く議論され、評価されています。そして、多くの場合、現在のアメリカの行政や議会のメンバー、イギリス、EU、その他の国の主要な政治家によって積極的に支持されています。また、すでに指摘したように、フェイクニュースや広まる偽の信念は、2016年のアメリカ大統領選挙、イギリスのブレグジット投票、そして最近のヨーロッパの他の選挙において重要な役割を果たしたようです。もちろん、偽の信念の持続性はある程度、人間の本質の一部であると私たちは主張してきました。人間の知識と信念の核心的な構造は、社会的な影響が虚偽の広がりを引き起こすことを可能にしますが、世界が反発する場合でもそうです。しかし、状況が変わりつつあることは間違いありません。

過去20年間、アメリカとイギリスの公共生活における影響力のある人物たちは、真実とのつながりがますます脆弱になり、証拠や専門知識、論理的整合性を完全に無視するようになりましたが、政治的な結果は伴っていません。このことは、二つの緊急の疑問を引き起こします。何が変わったのか？そして、私たちはそれをどう修正できるのか？

本書の重要な主張の一つは、私たちの政治状況の変化を個人に焦点を当てるだけでは理解できないということです。私たちは、社会的相互作用のネットワークがどのように変わったのか、そしてその変化がなぜ私たちの集団としての信頼できる信念の形成能力に影響を与えたのかを理解する必要があります。1990年代初頭以来、私たちの社会構造は、地域社会での対面の交流からオンラインでの交流へと劇的にシフトしました。FacebookやTwitterなどのオンラインソーシャルメディアは、私たちが受け取る社会情報の量とその迅速さを大幅に増加させ、社会的な影響が他の知識源に対して優位に立つ要因となっています。ソーシャルメディアはまた、私たちが信念を構築する手段を提供します。

このような環境では、プロパガンダ的な手法が特に効果的です。社会的評論家たちは、政治的議論におけるオンラインの「エコーチェンバー」の出現を長い間指摘してきました。社会的学習のモデルは、これらの変化がなぜそれほど重要であるかを説明することができます。人々は周囲の人々と同調することを好み、同じ信念を持つ仲間に囲まれると、同調の力が非常に強くなります。そして、私たちが主張するように、この同調の傾向は武器として利用されることがあります。2016年のアメリカとイギリスにおけるロシアの介入がその証拠です。同様に、科学者や他の専門家から一般市民や政治家へのアイデアの広がりも、社会的要因に深く影響されており、そのため容易に操作されるのです。本書で研究するモデルから得られる最も驚くべき結論の一つは、プロパガンダを行う者が信念に影響を与えるために虚偽の結果を生み出す必要はないということです。むしろ、正当な独立した科学的結果がどのように共有されるかに影響を与えることで、信念に影響を及ぼすことができるのです。

公共の場において、プロパガンダを行おうとする者は、科学的事実に対する人々の信念に大きな影響を与えることができます。これにより、プロパガンダに対処することが特に難しくなります。産業や政治の資金提供や影響を見極めるだけでは不十分です。私たちは、科学がどのように公表され、共有されるかにも注意を払う必要があります。このプロパガンダの微妙で有害な働きについての理解を基に、プロパガンダの影響は、プロパガンダを行う者が存在しない場合でも生じる可能性があると主張します。ジャーナリストが科学的な議論の両側からの結果を公平に提示しようとする場合、彼らは公衆が見る結果を深く誤解を招く形で偏らせることがあります。

また、プロパガンダやフェイクニュースの拡散を減らすための最も明白な介入策、例えば異なるコミュニティ間で信頼できる情報の拡散を妨げる障壁を取り除くことが成功しにくい理由も示します。私たちの意見と異なる人々から学ぶためには、彼らとつながっている必要がありますが、彼らが共有することを信じるためには十分な信頼も必要です。分極化した政治環境では、そのような信頼を得ることは難しいのです。もちろん、嘘や誤情報の拡散を防ぐための特効薬は存在しません。私たちは、フェイクニュースの意図的な創造と配布を罰するための新しい規制枠組みの開発など、成功する可能性が高い介入策は急進的であり得ない変化を伴うと考えています。これは、最近ドイツで採用されたソーシャルメディア上のヘイトスピーチを制御する法律に似ています。さらに、私たちの基本的な民主的制度の再設計にまで及ぶ必要があるかもしれません。そのような変化の可能性は乏しく、リスクも伴うため、ジャーナリストやソーシャルメディア企業、そして私たち一人ひとりが、言論を制限することなく誤情報の拡散を制限する方法を指摘します。私たちは皆、他者の利益のために無自覚にプロパガンダを行うことを避けたいと思っています。しかし、特定の介入策を特定することが重要であるのと同様に、私たちが介入しているシステムを理解することも同じくらい重要です。

ここで紹介する社会学習のモデルは、可能な介入の結果を研究し、特定の社会ネットワークの変化がどのように役立つか、あるいは害を及ぼすかを、少なくとも定性的に予測するための強力な枠組みを提供します。この種の分析は、文化的トレンドについての懸念を超えて、変化する社会的ダイナミクスが私たちの信念にどのように影響を与えるかの核心に迫ります。この問題をよりしっかりと理解することが重要です。特に西洋、つまりアメリカ合衆国やヨーロッパの多くでは、嘘や虚偽に基づいて決定が下されている状況が増えています。解決策がより多くの情報であるように思えるかもしれませんが、この見方はあまりにも限られています。私たちはこれまで以上に多くの情報を持っています。むしろ、情報の豊富さが新しい社会的文脈で共有されることが、私たちが直面している問題の根本にあると言えるでしょう。

1985年5月、ジョー・ファーマン、ブライアン・ガーディナー、ジョナサン・シャンクリンの3人の科学者が、英国南極調査（BAS）で驚くべき発見を報告しました。彼らの測定によれば、過去4年間に南極上空のオゾン量が、1957年から1973年の間に同じ調査によって行われた測定と比較して急激に減少していたのです。この変化は南極の春、つまり10月頃から特に顕著でした。大陸が毎年温暖化するにつれて、南半球を覆うオゾン層に穴が開いているようでした。この発見は非常に憂慮すべきものでした。地球は宇宙からの放射線に常にさらされており、その中には太陽によって生成される大量の放射線も含まれています。この放射線の中には、DNAや他の細胞構造を破壊するのに十分なエネルギーを持つものもあります。しかし、19世紀後半に最初に認識されたように、多くの高エネルギー放射線は地球の表面には到達しません。比較的無害な光は地球に入りますが、より危険なものは上層大気で吸収されてしまいます。

1881年までには、オゾンがこの吸収の原因であることが理解されていました。そして1920年代後半には、地球全体が地上から10マイルから15マイルの高さにある大気中のオゾンの保護層に包まれており、それが私たちを太陽からの常時照射から守っていることが知られるようになりました。このオゾン層は地球上の生命にとって不可欠です。しかし、今やそのオゾン層が消えつつあるように思われました。BAS（バイオスフィア・アトモスフィア・サイエンス）のデータは衝撃をもって受け止められましたが、同時に懐疑的な見方もありました。BASの科学者たちが使用した地上測定装置に加えて、アメリカ航空宇宙局（NASA）は、全球のオゾンレベルを監視するための衛星を軌道に乗せていました。この穴が本当に存在するのなら、衛星データに明らかに現れるはずでした。しかし、衛星チームは重要な変化を検出していませんでした。BASのデータは、このより信頼性の高いデータと真っ向から矛盾していました。さらに、BASチームの観測は理論的に不可能でした。科学者たちは、オゾン減少のメカニズムを15年間にわたって集中的に研究してきました。オランダの大気化学者ポール・クルッツェンが、肥料の成分である亜酸化窒素が上層大気に到達し、オゾンと相互作用する可能性を示して以来のことです。

オゾン減少の最も懸念されるメカニズムは、1974年にシェルウッド・ローランドとマリオ・モリーナによって発見されました。この研究は、彼らとクルッツェンにノーベル化学賞をもたらすことになります。ローランドとモリーナはカリフォルニア大学アーバイン校の化学者でした。彼らの大きな発見は、オゾン減少が日常的な源から来る可能性があるということでした。それは、冷蔵庫やエアコン、スプレー塗料から脇の下のデオドラントに至るまで、家庭用品に含まれるクロロフルオロカーボン（CFC）という化学物質の一群です。19世紀後半に消火剤として初めて合成されたCFCは、現代化学の驚異でした。非常に安定していて無毒で、広く利用可能でした。しかし、CFCを素晴らしいものにしている特性のいくつかは、予期しない方法で危険でもあります。その安定性は、環境に放出された後も分解されないことを意味します。代わりに、CFCは大気中に拡散し、オゾン層の上にゆっくりと浸透していきます。そこに到達すると、太陽からの高エネルギー放射線にさらされ、最終的に分解されるのです。

分解される際に、他の化学物質、特にオゾンと反応して大気中からオゾンを取り除く塩素を放出します。20世紀の大半にわたって、何百万トンものCFC（クロロフルオロカーボン）が生産され、自由に放出されていました。モリーナとローランドの推計によれば、その多くはまだ大気中に存在し、オゾン層に向かってゆっくりと移動していました。モリーナとローランドの研究は、CFCや他の要因によるオゾン層の減少を調査する数百の研究を引き起こしました。これらの研究の結果は明確でした。人間の活動が上空のオゾンレベルに影響を与え、地球上の生命にとって潜在的に破滅的な結果をもたらす可能性があるということです。

1975年、アメリカ政府は成層圏の意図しない改変に関するタスクフォース（IMOS）を設立し、新たな規制が必要かどうかを調査しました。その年の後半、タスクフォースはCFCの使用を厳しく制限する必要があると発表しました。翌年、米国科学アカデミーはIMOSタスクフォースの基本的な調査結果を確認する2つの報告書を発表しました。1977年には、食品医薬品局（FDA）がアメリカ国内でのCFCの使用を禁止する一般的な規制を発表し、1979年から施行されることになりました。

したがって、BASチームがその調査結果を発表した時点では、オゾンが減少していることはすでに広く認識されており、少なくともアメリカでは、責任があると考えられる化学物質の排出を抑制するための規制枠組みが整っていました。国際的な交渉も進行中で、世界的な禁止を実施するための取り組みが行われていました。モリーナとローランドの研究に対する反応は迅速かつ決定的でした。しかし、そのためにオゾン層の減少問題はすでに管理されていると広く信じられていました。モリーナやローランドを含む誰もが、オゾン層に穴が開く即時のリスクがあるとは考えていませんでした。オゾンがこれほど急速に減少する化学プロセスは知られていなかったのです。これがBASの調査結果をさらに衝撃的なものにしました。もし彼らの結果が正しければ、抽象的な未来のリスクがすでに私たちの目の前に迫っていることを示していました。しかし、彼らの結果が正しいはずがありませんでした。BASの研究が発表されたとき、知識のある多くの人々はその結果を疑っていました。

| IE se8EAO Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)

彼は間違っていた。そして、オゾンホールを検出していない衛星データは、おそらく正しいものであった。だが、特に二つの研究が矛盾しているように見えるときは、再確認することが重要だ。そこで、メリーランド州のNASAゴダード宇宙飛行センターで働く物理学者リチャード・ストラルスキーは、南極上空のオゾンレベルに関する衛星データを再検討することに決めた。ストラルスキーは、上層大気におけるオゾン減少に関する初期の研究を行った人物の一人であり、1970年代初頭にはラルフ・シセローネと共同で、NASAのためにスペースシャトルプログラムがオゾンレベルに与える影響を評価する研究を実施していた。彼とシセローネは、オゾンの主要な破壊因子として塩素に注目した最初の研究者の一人であり、これは後のCFCに関する研究において重要なステップとなった。したがって、ストラルスキーはBASと衛星データの両方を評価するのに特に適した立場にあった。慎重に再評価した結果、彼は衛星がオゾンホールを検出していたことに驚いた。しかし、誰もそれに気づかなかった。その理由は、測定されたレベルが非常に低かったため、データ処理ソフトウェアがそれらを外れ値として排除してしまったからだった。「悪い」データポイントは、恐らく何らかの機器の不具合によるものと見なされた。これはどうして起こるのだろうか？科学者が複雑な電子機器を使った実験を行い、大量の生データを生成する際には、そのデータを処理・分析するためのコンピュータシステムを設計する必要がある。これには、既知の系統的誤差を修正するためにデータを「クリーンアップ」し、研究者が実際に興味を持っている量を抽出するための統計テストを実行することが含まれる。ネイト・シルバーの最近の著書『シグナルとノイズ』(2012)のタイトルを借りるなら、彼らはシグナルとノイズを分ける必要がある。この作業を行うためのソフトウェアを設計するには、ある程度の技術と、測定しようとしている対象に関する豊富な知識が必要だ。この場合、オゾン濃度がある特定のレベルを下回ることは知られておらず、その濃度がそれほど低くなるプロセスも知られていなかった。したがって、衛星チームはそのようなデータポイントは信頼できないと仮定するようにデータ処理システムを設計していた。

結果として、衛星データはBASデータと一致していることが判明しました。そして、NASAはオゾンホールを見逃していたのは、誰もが考えられないほどの範囲にあったからでした。オゾンホールは実在するようで、オゾンの減少は皆が思っていたほど制御されていないことが分かりました。しかし、まだ謎が残っていました。理論的な期待がどうしてこれほどまでに外れていたのか？NASAとアメリカ国立海洋大気庁は、1986年と1987年に南極で2回の大規模な調査を迅速に組織し、可能性のある原因物質のレベルを測定し、劇的なオゾン損失を引き起こしているプロセスを特定しようとしました。

南極の探検によって、オゾンホールは予想外のいくつかの要因が重なった結果であることが明らかになりました。その主な要因の一つは、南極上空の空気が非常に冷たいことです。そのため、そこに存在する雲は水蒸気ではなく氷の粒子で構成されています。これらの氷の粒子は空気中の硝酸を取り除き、その結果、CFCから放出された塩素が長く残り、オゾンの減少をさらに加速させることが分かりました。

一方、南極大陸の気象パターンには独特の特徴があります。強力で冷たい風が南極点を取り囲み、極渦と呼ばれる現象を形成します。この渦は南極上空の空気を閉じ込め、他の地域からのオゾンが混ざり込みにくく、そこに存在する塩素が拡散しにくくなります。これにより、誰も予測していなかったほど高い塩素レベルが生じ、オゾンが他の場所から補充される可能性がほとんどなくなりました。

2回の南極探検は、別の問題も解決しました。オゾンホールは、上層大気中の過剰な塩素によって引き起こされていたことが確認されました。この塩素はCFCに直接起因するものでした。これにより、人間の活動が環境を大規模に、そして迅速に変化させる能力を持っていることに疑いの余地はなくなりました。数十年のうちに、私たちは少なくとも世界の一部において、有害な太陽からの放射線に対する自然の防護を大幅に失ってしまったのです。

私たちの惑星で生命を支える複雑なシステムは、非常に脆弱であることが判明しました。1987年9月、第二次南極探検が行われる前に、オゾン層を破壊する物質に関する国際条約、モントリオール議定書が制定されました。この議定書は1989年1月1日に発効し、すぐに国連の全加盟国によって批准されました。元々のモントリオール議定書では、CFCを生産するすべての国に対して50％の生産削減が求められていました。2年後のロンドンでの会議では、議定書が改訂され、CFCや塩素を放出することが知られている他の化学物質に対する完全な禁止が盛り込まれました。世界の国々は、確固たる信念を持って行動しました。そして、彼らは信頼性の高い科学に基づいて行動したのです。最終的に、私たちの科学的プロセスは、私たちが求める最良の結果をもたらしました。それは、私たち全員を宇宙放射線から守ったのです。

ヨハネによる福音書は、イエスがローマのユダヤ総督ポンティウス・ピラトの前に連れて行かれたことを伝えています。これは、エルサレムのユダヤ人指導者たちが彼をローマの権力を奪おうとし、自らを王と宣言しようとしたと告発したためです。しかし、ピラトが彼に尋ねたとき、イエスは控えめでした。彼は自らを王とは宣言せず、ただ真実の証人であると述べました。ピラトの返答は「真実とは何か？」でした。

ピラトの反応は、「真実」という概念そのものを、私たちの信念の信頼性や正確性に関する理想として軽視しています。彼の懐疑心は、特定の事実に関するものではなく、「真実」という考えそのものに対するものであり、これは西洋思想の長い伝統に位置づけられます。この伝統は、古代ギリシャの懐疑派にまで遡り、私たちが世界について本当に何かを知ることができるのか、さらには知るべき「真実」が存在するのかを疑問視しています。しかし、彼の反応は、権力者が批判者を貶めるためにこの哲学的伝統を利用するという長い歴史の一部でもあります。この伝統は、ジョージ・W・ブッシュの政治顧問カール・ローブが、ニューヨーク・タイムズの記者に対して発言した際に引用したものです。

ロナルド・サスカインドは「今や私たちは帝国です（アメリカ合衆国のことを指しています）。私たちが行動するとき、私たちは自分自身の現実を創り出します」と述べました。トランプの顧問ケリーアン・コンウェイも、当時の報道官ショーン・スパイサーが最近の記者会見で提示した「代替的事実」を言及した際、この伝統を意識していたかどうかは別として、同様の考えを引き合いに出しました。最近の共和党政権だけが「代替的事実」の独占的な領域であると考える人がいるかもしれませんが、実際には、1965年にベトナム戦争の大規模なエスカレーションを、進行中の紛争の状況や見通しについての明らかな嘘に基づいて開始したのは、民主党のリンドン・ジョンソンでした。真実の概念は、多くの古くて難しい哲学的問題を提起します。自然界についての真実を明らかにすることはできるのでしょうか？それを行うための信頼できる方法はあるのでしょうか？私たちは本当に何かを知ることができるのでしょうか？これらは哲学者が考えるべき問題のように思えるかもしれませんが、実際には日常の政治、ビジネス、さらには生死に関わる重要な質問と同じくらい中心的なものです。そして、ピラトからトランプに至る帝国の伝統が示すように、権力を持つ者たちはその重要性を長い間理解してきました。

1970年代中頃、CFC（クロロフルオロカーボン）がオゾン層に深刻なリスクをもたらすという科学的合意が形成され、アメリカの政策立案者たちが規制対応を実施し始めると、化学産業は反発しました。デュポンを先頭に、アメリカの巨大な化学メーカーは、何も行動を起こすべきではないと主張しました。彼らは「行動を起こすには早すぎる、まだ不確実性が多すぎる」と繰り返し唱えました。デュポンは全国の新聞や雑誌に広告を掲載し、「CFCがオゾン層の減少に寄与しているというロウランド・モリーナの主張を支持する説得力のある証拠はない」と主張し、「業界が先入観を持たれ、有用なフルオロカーボン製品が答えが見つかる前に破壊されるべきなのでしょうか？」と問いかけました。同様に、1975年には業界誌においても、同様の意見が掲載されました。

Chemical Weekは、オゾン層の減少におけるCFCの役割について「私たちは基本的に未知の影響について話している。これは、議論の余地がある原因によって引き起こされた、あまり理解されていない現象だ」と主張し、次のように結論づけました。「一つの事実は明らかです：私たちは事実を持っていません。問題があるかどうかすら確信が持てません。」この様子は、慎重なアプローチのように見えるかもしれません。1975年には、CFCが差し迫った脅威をもたらすという証拠がIMOSタスクフォースを納得させるには十分でしたが、多くの疑問が残っていました。さらなる証拠を集めることは確かに良い考えでした。実際、1980年代には1970年代の科学的合意が深刻に欠陥があったことが明らかになりました。危険は誰もが理解していた以上に大きかったのです。問題は、業界がどれだけの証拠が集まろうとも、さらなる研究と行動の遅延を求め続けたことです。1988年3月、BASの調査結果がオゾンホールの存在を示し、ストラルスキーのNASA衛星データのレビューがBASのデータを確認し、1986年と1987年の南極探検がCFCとオゾンの相互作用の副産物を直接検出した後でさえ、デュポンのCEOは米国上院に対して大幅な削減の必要はないと宣言しました。この時点で、さらにどのような証拠を求めることができるのか想像するのは難しいことでした。それでも業界はさらなる確証を求め続けました。デュポンの立場は、18世紀のスコットランドの哲学者デイヴィッド・ヒュームに最も有名に関連付けられる議論を思い起こさせますが、古代ギリシャ人も同様の議論を展開していました。たとえば、世界の中に何らかの規則性を観察したとしましょう。その上で、一般的な推論を引き出したいとします。具体的には、あなたがこれまでの人生で毎朝太陽が昇るのを観察してきたとします。あなたは太陽が常に昇ると推論できますか？また、北半球で育ったあなたが白い白鳥しか見たことがない場合、すべての白鳥が白いと推論できますか？ヒュームの答えは emphatic な「いいえ」でした。規則性の個々の事例の数が、一般的な推論を導き出すことはできないのです。

これは一見すると不条理な立場に思えるかもしれませんが、先に挙げた例が問題を示しています。オーストラリアには黒い白鳥が存在するのですから、イギリスで白鳥をいくらチェックしても、その可能性に対して自分を守ることはできません。太陽は最終的に水素を使い果たし、赤色巨星に膨張して地球を飲み込む可能性があります。どれだけ多くの日々、太陽の昇るのを見てきたとしても、明日がその爆発の日である可能性は否定できません。

1980年代後半まで、CFC（クロロフルオロカーボン）に対して様子見のアプローチを主張していた業界の支持者たちは、CFCとオゾン層の減少を結びつける証拠が決定的ではないという点では正しかったのです。しかし、今でもその証拠は決定的ではありません。オゾンホールの存在、CFCがそれを引き起こしたかどうか、さらにはオゾンが人間の健康を守るために不可欠であるかどうかについて、私たちは絶対的に確信を持つことはできません。私たちが確信を持てない理由は、この主張に関するすべての証拠が最終的には帰納的なものであり、ヒュームが教えたように、帰納的な証拠は確実性を生み出すことができないからです。

さらに、私たちが確信を持てないだけでなく、科学者たちは過去にしばしば間違っていたこともあります。科学の歴史は、かつて科学者たちが多くの証拠に基づいて信じていた理論が、現在では否定されているという事例で溢れています。約2000年間、科学者たちは腐敗した有機物から発生する「瘴気」が病気の主な原因であると信じていましたが、19世紀に入ると、これらの病気は微生物（つまり、バイ菌）によって引き起こされると考えられるようになりました。千年にわたる精密な測定と慎重な数学的議論によって、地球は静止しており、太陽、惑星、星々が静止した地球の周りを回っているということが疑いもなく確立されていましたが、コペルニクスからニュートンに至る一連の科学者たちがこの理論に疑問を投げかけ、覆しました。そしてその後数世代にわたり、ニュートンの重力理論が地球の周りを回る月や、太陽の周りを回る地球の運動の真の説明として受け入れられていました。しかし今日では、ニュートンの理論さえもアインシュタインの相対性理論に取って代わられています。

科学哲学者たち、例えばラリー・ローダンやP・カイル・スタンフォードは、科学の進展におけるこのような変化を考察しています。

科学の過去の失敗は、現在の科学理論を真実として受け入れる際に非常に慎重になるべきだと主張する人々がいます。彼らの主張は「悲観的メタ帰納法」と呼ばれることがあります。科学の長い誤りの歴史を注意深く見つめることで、現在の理論も誤りである可能性が高いと自信を持つべきだというのです。これは、CFCとオゾン層に関する科学的合意に対する業界の批判者たちが正しかったということを意味するのでしょうか？科学者たちは、確信を持てるほどの十分な証拠を持っていなかった（持てなかった）ため、科学には非常に悲惨な実績があります。そのため、科学者たちが「今回は正しい」と言っても、私たちは彼らの言葉を簡単には信じられません。新しい科学的発見を受け入れる際には常に慎重であるべきですが、必ずしもそうではありません。私たちは何についても完全に確信を持つことはできないかもしれませんが、それが私たちがより多くの自信を持てないということにはなりませんし、証拠を集めて情報に基づいた決定を下すことも可能です。例えば、CFCがオゾン層に穴を開けているということに非常に自信を持つことができるかもしれません。適切な証拠があれば、このような証拠に基づいた信念と絶対的な確信との間の境界線は、私たちの目的においては意味を持たないかもしれません。最終的に、私たちは真実（少なくとも科学的真実）を重視します。なぜなら、真実の信念が私たちが世界で成功裏に行動するための助けになるからです。私たちは知識を重視します。それは、私たちが知っていること、あるいは少なくとも強く真実だと信じていることが、個人または集団としての選択にどのように影響を与えるかに関わっているからです。そして、私たちの信念と選択との関係を認識することが、帰納の問題を解決する鍵ではなく、それを脇に置くための鍵なのです。CFCとオゾン層の問題に関しては、事実に関する完全な確信を得ることができないという懸念は無関係です。私たちが求めているのは、宇宙からの放射線によって焼かれるのを避けるための十分な自信です。何をすべきかという問題に関しては、一般的な懐疑心を脇に置き、私たちが持っている証拠に基づいて行動する必要があります。業界からの確実性の要求を無視し、規制を行います。ヒューム自身が言ったように、「賢者は…」と。

「彼は自分の信念を証拠に比例させる。」これらの科学に対する哲学的な挑戦は、日常生活にも再適用できます。そこでも、私たちは決して確実性を持つことはできません。しかし、その可能性が私たちを麻痺させることはありませんし、そうあるべきでもありません。私たちは絶対的な確実性を待つことはなく、待つこともできません。なぜなら、それは決してやって来ないからです。私たちには行動する以外に選択肢はありません。そして、行動する際には、私たちが信じていることに基づいて行動します。だからこそ、できる限り裏付けのある信念を持つよう努めるべきです。

振り返ってみると、科学者たちは多くの過去の理論を否定してきましたが、それらの理論が開発され、テストされた文脈の中では非常に効果的であったことは事実です。地球中心の古い太陽系モデルは、星や惑星の位置を予測するのに非常に正確でした。私たちは今でもニュートンの重力の法則を使って衛星の軌道を計算しており、ニュートンの理論は私たちを月に送り届けるのに十分でした。言い換えれば、私たちは持っている証拠に基づいて信念をできる限り良いものにし、十分に物事がうまくいくことが多いのです。過去150年の間に、哲学者や統計学者たちは、信念、行動、証拠の関係についての考え方を発展させ、この実用主義を捉えています。基本的な考え方は、信念には度合いがあり、それが何かが真実である可能性を大まかに測るということです。そして、私たちが集める証拠は、これらの信念の度合いに影響を与えるべきです。その証拠の性質は、私たちの自信を高めたり低下させたりします。そして、信念に基づいて意思決定を行う際には、その自信のレベルを考慮する必要があります。実際、私たちは確率論の一分野を使って、観察したことと信じるべきこととの間の正確な関係を描き出すことができます。ベイズの法則と呼ばれる公式を使うことで、ある証拠を知った後に自分の信念の度合い、つまり信頼度がどのようになるべきかを計算することができます。この法則は、証拠を見る前に信じていたことと、その証拠がどれほど可能性が高いかを考慮に入れたものです。ベイズの法則は、次に続く内容において重要な意味を持ちます。

科学者たちの基本的な考え方は、証拠を集め、私たちの信念の度合いを更新することです。信念を更新するための合理的な方法があり、常に彼らが受け入れたくなるような一連の賭けを提示することができるでしょう。しかし、重要なのはその公式自体ではなく、私たち自身をその視点から考えることです。

CFC（クロロフルオロカーボン）禁止に反対する批評家たちは、オゾンに関する科学的合意を受け入れることに対して別の主張をしました。それは、オゾンを擁護する科学者たちが政治的な動機を持っているというものでした。特にシェルウッド・ローランドは厳しく批判されました。彼や彼のような科学者たちは、1970年代後半のデュポンの広報担当マネージャーL・クレイグ・スカッグスの言葉を借りれば、「真の客観的な科学者」ではなく、単にデータを収集して報告するだけでなく、そのデータに基づいて政策変更を提唱していたからです。別の業界の幹部は、CFCに対する批判は「KGBの情報操作省によって orchestrated（組織された）」と表現しました。つまり、業界の擁護者たちは、政治的および産業的な利益に関わる科学者は極めて注意深く扱うべきだと主張しました。なぜなら、彼ら自身の政治的、経済的、さらには道徳的な見解が、彼らの仕事や採用する立場に反映される可能性が高いからです。

これらの主張は、業界が求める確実性と同様に、科学哲学の重要な伝統を反映しています。この伝統は、科学者の仕事が社会的な考慮事項、つまり彼らの文化、政治、価値観によって形作られるということを主張しています。この伝統を理解するためには、その根源に遡る必要があります。1960年代初頭に、物理学者から歴史家に転身したトーマス・クーンが『科学革命の構造』という本を1962年に出版しました。彼は物理学の歴史における多くの事例研究をもとに、科学的実践におけるパターンを描写しました。科学者たちは問題を特定し、よく知られた方法を適用してそれを解決し、解決策をテストするために実験を行い、徐々に彼らの仕事によって制御された自然の断片を蓄積していきました。クーンはこの徐々に進展するプロセスを「通常の科学」と呼びました。通常の科学は、確かに科学のように聞こえますが、クーンの大きな洞察は、それが物語の一部に過ぎないということでした。時折、別のことが起こります。それは革命です。

クーンは、革命が起こると、科学的実践に伴う変化が非常に劇的であり、基本的には前の時代の正常科学の苦労して勝ち取った成果はほとんど残らないと主張しました。クーンによれば、すべての正常科学は特定のパラダイムの中で行われ、そのパラダイムには問題を特定し解決するための独自のルールや証拠の基準があります。例えば、今日、私たちがグラスが床に落ちて割れるのを見たとき、それは重力の力によって引き下げられる物体として認識します。しかし、ニュートンの重力のパラダイムが確立される前は、私たちはそのようなことを見ていませんでした。私たちはグラスを地球でできたものと見なし、それが地球に向かって動く傾向があると考えていました。科学的革命とは、パラダイムの変化であり、背景理論だけでなく、科学者たちの世界の見方全体における根本的な断絶です。パラダイムの変化は理論だけでなく、何が証拠と見なされるかも変える可能性があり、場合によっては、クーンが主張するように、パラダイムが変わることで実験の結果さえも変わることがあります。

クーンの考えを極端に考えると、いくつかの根本的な結果が生じます。クーン以前の科学哲学の多くは、科学を冷静で客観的な世界の探求と見なしていました。しかし、もしクーンが正しいなら、パラダイムが科学者の世界観を構造化し、私たちの通常の証拠収集や分析が必然的にパラダイムの中で行われるのであれば、この見方は致命的に欠陥があることになります。「証拠」だけでは科学理論に至ることはできませんでした。科学には、科学者自身に関係する別の要素があるようです。クーンの研究は、科学を理解するためには、それを人間の営みとして認識し、複雑な歴史と豊かな社会学的特徴を持つものであることを認識する必要がある可能性を示唆しました。この視点から見ると、科学者は社会の一員であり、その行動はその社会の儀式や慣習によって決定されます。さらに、その社会はより大きな文化的文脈に埋め込まれています。科学を理解することは、こうした要素を考慮に入れることを意味します。

AD Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)

この奇妙で新しい文化を理解するために、社会学や人類学などの分野のツールを用いることが重要です。科学を、科学的思考に影響を与える可能性のあるより広い文化的・政治的文脈に埋め込まれたものとして再考することは、いくつかの困難な認識をもたらしました。現代の科学は、世界中で残虐行為を行ってきた主に男性、白人、西洋ヨーロッパの文化によって生み出され、形作られてきたのです。そして、科学的なアイデアもまた、その影響を受けていることが明らかになりました。例えば、歴史家ルース・シュワルツ・コーワンと社会学者ドナルド・マッケンジーは、カール・ピアソンとフランシス・ゴルトン（チャールズ・ダーウィンのいとこ）が人種的優越性のさまざまな指標を定量化しようとしたときに、統計学全体の分野が生まれたことを示しています。（実際、ゴルトンは「優生学」という用語を作りました。）フランスの哲学者で歴史家のミシェル・フーコーは、現代の精神医学が抑圧の道具であり、「問題のある」社会のメンバーを他の人々から隔離する方法であると主張しました。彼は、現代のクリニックは中世のハンセン病患者のコロニーから派生したものであり、社会において同様の役割を果たしていると述べました。科学はまた、植民地主義にも関与しており、しばしば人種的優越性に関する「科学的」な議論や、非西洋文化が自らの環境や経済的な幸福について信頼できる知識を持てないという前提によって正当化されてきました。

1986年にサンドラ・ハーディングが著した『フェミニズムにおける科学の問題』では、初期の科学者たちの著作に見られる、科学者が意に反して母なる自然を従わせるというレイプのメタファーの proliferate（急増）について指摘しています。特に、ニュートン（およびヒューム）に強い影響を与えたイギリスの経験主義者フランシス・ベーコンの著作において顕著です。このように、1970年代と1980年代は、科学、政治、文化に関する研究の黄金時代であり、「科学研究」として知られるようになりました。この知的文脈の中で、産業の支持者たちは、オゾンホールを研究する科学者たちが自ら政治的なエージェントであり、環境主義、政府の規制、産業の価値に関する背景的な見解に影響されているのではないかという懸念を提起しました。

この理由から、批判には初期の信憑性があった。結局のところ、多くの学者が、まさにこのような文化的文脈が科学にとって重要であると主張していたからだ。この特定のケースにおいて、ある科学者グループが政治的見解を支持しているように見えた場合、その見解が彼らの科学的な仕事に影響を与えた可能性はないだろうか。ガルトンの人種差別が彼が取り組んだ統計の問題に影響を与えたのと同じように。

確かに、私たちと同様に、科学者も自らの文化的文脈から孤立することはできない。これらの文脈は、偏見や盲点を引き起こすことがある。科学者が自らの偏見にとらわれて導き出す結論は、社会的に受け入れられないものであったり、道徳的に破綻していたり、単に間違っていたりすることがあるが、それでも広く受け入れられることがある。したがって、社会的および政治的要因が科学にどのように影響を与えるかについて、私たちは意識し、洗練された理解を持つ必要がある。そして、この理由から、科学研究から生まれる文化的批評は非常に価値があるものとなり得る。

しかし、科学者や科学者グループが特定の文化的または政治的見解を持っているという単なる観察は、彼らがその見解を支持するために生み出す証拠や議論を損なうものではない。これは、そうした見解が科学者が取り組む科学的問題や採用する方法に影響を与えた場合でも同様である。結局のところ、問題のある起源を持つにもかかわらず、統計学の分野は特定の目標を持って発展したからといって、本質的に無価値ではない。ガルトンやピアソンの洞察は、データを分析し解釈するための大規模で貴重なツールセットに発展してきた—たとえ統計の誤用が一般的であるとしても。

同様に、1970年代と1980年代に書かれた数百の科学論文が、CFCがオゾン層の減少に果たす役割について慎重な証拠を提供し、CFCが人間の健康に対して差し迫った脅威をもたらすという結論を導き出したとしても、それらの論文の著者の中に環境保護を自体として称賛すべき目標だと考える者がいるからといって、その価値が失われるわけではない。さらに、政治が科学に影響を与える方法には二つの異なる側面があることを区別することが非常に重要である。一つは、ここで考慮しているような微妙な影響であり、背景にある文化的見解が科学者が立てる仮定や考慮する問題に影響を与えるというものである。

このような影響は否定的な効果をもたらすことがありますが、慎重な分析や批評、議論を通じて特定し、対処することも可能です。しかし、政治と科学が交わる別の方法も存在します。それは、非常に異なり、さらに悪質な性質を持っています。

1783年のペンテコステの日、アイスランド南部のラキ山の側面に、16マイルにわたる火山の亀裂が開きました。その後の8か月間で、数百億トンの溶岩が流れ出し、20の町や村を飲み込みました。溶岩の噴水は、ほぼ1マイルの高さまで溶岩を吹き上げました。地元のルター派の牧師、ジョン・スタイングリムソンは、この噴火を記録し、「火の洪水は春の日に雪解け水で膨れ上がった大河のように速く流れた」と書きました。

速く破壊的な溶岩流とともに、ラキの噴火は膨大な量のガスを放出しました。これには1億トン以上の二酸化硫黄と、ほぼ1000万トンのフッ素ガスが含まれています。これらのガスは大気中の水蒸気と反応し、硫酸とフッ化水素酸を形成しました。これらはすぐに雨として地表に降り注ぎました。その雨は非常に酸性で、地元の家畜の皮膚や骨を溶かし、島の馬と牛の半分、羊の4分の3が死んでしまいました。大麦やライ麦は茎の上でしおれてしまいました。その結果、アイスランドの人口の4分の1が飢饉で亡くなりました。

「酸性雨」という表現は、1859年にマンチェスターで働いていたイギリスの薬剤師ロバート・アンガスによって初めて使われました。アンガスは大気汚染の原因を研究しており、工業地帯の近くの雨が沿岸部の雨よりも酸性度が高いことを発見しました。彼はこの現象を、塩酸を放出することで知られる初期の工業技術であるルブランソーダプロセスに起因すると考えました。アンガスの研究は、その酸が単に大気中に消散するのではなく、酸性雨として地表に戻る傾向があることを示しました。ラキの噴火が示すように、酸性雨の基本的な現象はすでにかなり劇的に観察されていました。アンガスの研究は、酸性雨が人間の活動の副産物でもあることを示しました。イギリス議会は迅速に反応し、1864年にアルカリ法を施行しました。

#3280 Kindle for PC
4 - 誤情報の時代：誤った信念が広がる理由（英語版）

レブランプロセスを必要とするプラントは、酸が大気中に放出されるのを防ぐために設計されていました。これは、環境規制の初期の重要な取り組みでした。そして、アルカリ法が成立した後も酸性雨は消えませんでしたが、次の世紀にわたって公共の意識からは薄れていきました。おそらく、それは工業地域のローカルな問題のように思えたからでしょう。

この状況は1974年に変わりました。この年、ローランドとモリーナがCFCがオゾンを減少させることを発見しました。同じ年、コーネル大学の教授ジーン・ライケンズとイェール大学の教授F・ハーバート・ボーマンは、科学雑誌『サイエンス』に驚くべき結論を支持する研究記事を発表しました。それは、ほぼ全米北東部に降る雨や雪が酸性になっており、国内の他の地域よりもはるかに酸性であり、20年前の同じ地域よりも酸性度が高いというものでした。ライケンズとボーマンは、ハバードブルック実験林で11年間にわたって収集されたデータを慎重に分析し、その結論に至りました。

ライケンズとボーマンの結論は驚くべきものでした。なぜなら、工業中心から遠く離れた地域でも人間の活動や汚染の影響を深く受けていることを示していたからです。オハイオバレーの発電所から放出された硫黄やその他の化学物質が、北東部全体に漂い、酸性雨として地面に降り注いでいるようでした。これらの発見は、南スウェーデンやノルウェーで観察された酸性雨の結果とも一致しており、そこでも工業地帯から遠く離れた場所で酸性雨が確認されていました。（この場合、汚染はイギリスやドイツから来ているようでした。）アメリカ合衆国由来の酸性雨は、すぐにカナダでも検出されました。長距離の汚染と酸性雨は、単なる環境問題ではなく、国際関係の問題にもなりつつありました。1980年代初頭には、酸性雨に関する科学は、ある環境保護庁（EPA）の広報担当者の言葉を借りれば、「疑いの余地がない」とされていました。

『Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由（英語版）』

この意見は、当時の膨大な文献をレビューする任務を担っていたほぼすべての主要な科学組織によって共有されていました。1981年、アメリカ合衆国で最も権威ある科学者の集まりであるナショナルアカデミーオブサイエンスは、「人間の健康に対する深刻な危険の明確な証拠」と「酸性雨が発電所の排出物によって引き起こされているという圧倒的な証拠」を見出しました。1982年のEPAの報告書も同様の見解を示し、別のナショナルアカデミーの報告書や1983年のカナダ王立協会のレビューもこれに同意しました。このように、広範な科学的合意があったにもかかわらず、発電所の排出に対する新たな制限が設けられるべきでした。そしてヨーロッパでは、1979年に国連欧州経済委員会が国境を越えた汚染を制限する新しい条約を可決しました。その年の7月、アメリカとカナダは同様の合意を交渉し始め、国境を越えた大気汚染に対処するための意向に関する覚書が作成されました。

しかし、これらの取り組みはカーター政権の下で始まったものの、完全な規制枠組みの構築は1981年1月20日にアメリカ合衆国の大統領に就任したロナルド・レーガンに託されました。そして、酸性雨の原因とその害に関する膨大な証拠があるにもかかわらず、レーガン政権は行動を阻止するためにあらゆる手段を講じ、科学的記録に手を加えることさえしました。

1982年、ホワイトハウスの科学顧問であるジョージ・キーワースは、酸性雨に関する新たな報告書を委託しました。この報告書の目的は、カーター政権下で行われた以前の研究を評価することでした。レーガン政権のこの委員会は「酸性雨ピアレビュー委員会」と呼ばれ、サンディエゴのスクリップス海洋研究所の所長であったウィリアム・ニーレンバーグが率いていました。ニーレンバーグの科学的な資格は疑いの余地がありませんでしたが、彼は明らかに党派的でした。

酸性雨のピアレビュー・パネルに参加してから2年後、ニーレンバーグは、ロックフェラー大学とアメリカ国立科学アカデミーの元会長フレデリック・サイツ、コロンビア大学のNASAゴダード宇宙研究所の創設者ロバート・ジャストロウという2人の著名な物理学者と共に、ジョージ・C・マーシャル研究所という保守的なシンクタンクを設立しました。ニーレンバーグがレーガン政権のパネルの責任者に任命された背景には、政治的なつながりがあったに違いありませんが、彼は自身の政治的傾向にもかかわらず、その役割を真剣に受け止めました。彼は、シェルウッド・ローランドやジーン・ライケンズを含む大気科学の著名な専門家たちをパネルに招集しました。9人のパネルメンバーのうち6人は、アメリカ国立科学アカデミーまたは工学アカデミーのメンバーであり、そのほとんどが関連する科学の専門家でした。最後のメンバーはフレッド・シンガーという物理学者でした。オレスケスとコンウェイの著書『疑念の商人たち』によれば、ニーレンバーグがホワイトハウスに提出した潜在的なパネルメンバーのリストにはシンガーの名前は含まれていませんでした。しかし、ホワイトハウスから返送されたリストには、いくつかの候補者の名前が削除され、シンガーの名前が追加されていました。当時、彼はバージニア大学で終身在職権を持つ教員でしたが、主な所属先は保守的なシンクタンクであるヘリテージ財団だったようです。シンガーがパネルに加わる前に酸性雨に関する研究論文を執筆した記録は見つかりませんでした。

1983年3月までに、パネルは報告書の完全な草案を作成し、メンバー間で配布されました。その調査結果は、酸性雨が実際の脅威であり、人間の活動によって引き起こされていること、そしてさらなる被害を防ぐためには発電所の排出量を大幅に削減する必要があることを、他の真剣な研究グループと一致していました。草案にはシンガーが執筆した章も含まれており、彼は驚くべき異なる結論に達しました。彼は、あらゆる行動には受け入れがたいコストが伴うが、何もしないことだけは例外であると主張しました。他のメンバーはこの見解を拒否し、シンガーの章を含む報告書のいかなるバージョンにも署名することを拒みました。この意見の不一致は数ヶ月の遅延を引き起こし、その間にシンガーがパネルの主要な調査結果を他の方法で弱体化させようとしているように見えました。

1983年9月、たとえば、パネルの副議長がその合意を議会に提出しました。シンガーは、議会への手紙で証言に異議を唱え、副議長の主張を支持する証拠が不十分であると主張しました。パネルは最終的に1984年3月に報告書のバージョンを承認しましたが、これは最初に作成されてから1年後のことでした。最終草案にはシンガーの章が署名付きの付録として含まれていましたが、パネルからの承認は得られていませんでした。それでも報告書は公開されず、ホワイトハウスにさらなるレビューのために送られました。その後、キーウォースのオフィスが文書のエグゼクティブサマリー部分のさらなる修正を提案し、ニーレンバーグはパネルの他のメンバーと相談することなくそれを行いました。ロードアイランド大学の大気科学者でありパネルのメンバーであるケネス・ラーンによれば、これらの変更は「連邦政府が今すぐ行動を起こすべきだというパネルのメッセージを弱めた」とのことです。

最終報告書はパネルの推奨を正確に反映しておらず、パネルメンバーの名前が記載された形で公開されましたが、そのメンバーたちはその内容を確認したり承認したりしていませんでした。これは重要かつ物議を醸すプロトコルの違反でした。『サイエンス』誌は、ホワイトハウスが報告書を操作したとする記事を掲載しました。議会のメンバーはホワイトハウスが研究を抑圧したと非難する声明を発表し、いくつかの主要な新聞もこの問題を報じました。しかし、すでに被害は発生していました。報告書の内容を薄めただけでなく、シンガーとキーウォースはニーレンバーグの助けを借りて、その公開を1年以上遅らせていました。その間に、酸性汚染物質に対処するいくつかの法案が議会に提出されましたが、酸性雨の科学が依然として不確かであるとされ、ホワイトハウスの報告を待っていたため、どれも取り上げられませんでした。

結局、酸性雨に関する立法は、レーガンがホワイトハウスを去った後の5年間、真剣に検討されることはありませんでした。1995年にCFCとオゾンに関する研究でノーベル賞を受賞したシャーウッド・ローランドに対して、フレッド・シンガーはノーベル委員会を批判するオピニオン記事を書きました。「1995年のノーベル化学賞を成層圏のオゾンに関する研究の創始者に授与することは…」

Kl 83/0 Kindle for PC  
4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)  

オゾン層破壊仮説について、スウェーデンアカデミーは政治的な声明を出すことを選んだ。この批判は、CFCに関する彼の研究に基づいて新しい規制を提唱することで、ローランドが「真の科学者」ではなく政治的なエージェントになったという、以前の業界の主張を反響させるものであった。  

ここには深い皮肉がある。ローランドの研究が彼の政治的および文化的な文脈によってさまざまな形で影響を受けていたことを認めるとしても、1974年の論文に続いて自らの科学研究の社会的に重要な結果について声を上げることと、ホワイトハウスと直接相談して科学パネルの結果を覆そうとすることには大きな違いがある。ここでの議論は「お前もそうだろう」というものではない。シンガーもまた政治的な考慮に影響を受けていたというわけではないし、一般的に右寄りの干渉が、酸性雨のピアレビュー・パネルのような形で、潜在的な左寄りの干渉と同じくらい悪いというわけでもない。むしろ、議論の本質は、酸性雨のピアレビュー・パネルのケースに見られるような、科学に対する一種の政治的干渉が存在し、それがCFC規制の支持者が非難されたものとは重要な点で異なる、すなわち科学報告の明示的かつ意図的な操作であるということである。  

ここにはもう一つの皮肉がある。それは、科学の社会的および歴史的研究に関するものである。1990年代初頭、多くの科学者や一部の哲学者、政治家、ジャーナリストの間で、ヒューマニティーズの学者たちが科学を弱体化させようと活動しているという広範な認識があった。これに対抗する形で、科学者たちは反撃を始めた。その結果、科学的知識の正当性を巡る対立が生じ、「科学戦争」として知られるようになった。  

科学戦争の最初の一撃は、1994年に出版された「ハイアー・スーパスティション: アカデミック・レフトと科学との争い」という本の形で現れた。この本は生物学者ポール・グロスと数学者ノーマン・レヴィットによって書かれ、社会学者や哲学者が科学に対して攻撃的であると主張した。

科学を分析すると主張する人々は、彼らが反論している研究を評価する能力に欠けていることが多かった。著者たちは、科学研究に関する文献の多くの議論が、単に情報不足であるだけでなく、まったく一貫性がないと主張した。科学戦争の主要なテーマの一つは、科学について執筆する人文学者が「擬似知的なポーズをとる者」であるという非難だった。しかし、私たちはグロスとレヴィットの著書の副題にある「学問的左派」という用語が示唆する第二のテーマに焦点を当てたい。彼らの議論は、一方では多様性や多文化主義を強調する特定のタイプの左派政治と、他方では広く反科学的な立場との間に深い知的なつながりがあることを示唆していた。ハーバードの生物学者リチャード・ルウォンティンは、1998年にニューヨーク・レビュー・オブ・ブックスに寄せた手紙の中で、レヴィットとグロスが「社会的およびイデオロギー的な影響が科学のプロセスや内容に及ぶという主張は、マルクス主義的な狂気の一形態であるという奇妙な信念を持っているようだ」と述べている。この政治的メッセージは著名な保守派の評論家たちによって強調され、科学戦争はすぐにより大きな文化戦争の小競り合いのように見えるようになった。科学は、マルクス主義者によって攻撃されている西洋文化の一側面に過ぎず、キリスト教や具象絵画、アリストテレスの全集とともに防衛が必要とされていた。グロスとレヴィットが学問的左派と関連付け、厳しく批判したイデオロギーの一つは、アメリカの著者で活動家であるジェレミー・リフキンによって具現化された「急進的環境主義」だった。彼は1970年代と1980年代にオゾン層の減少、酸性雨、地球温暖化に注目を集めたことで有名だった。グロスとレヴィットは、急進的環境主義者たちが環境の危機を利用して（主に左派の）政治イデオロギーを推進するために恐怖を煽る擬似科学者であると主張した。それにもかかわらず、ローランドの場合、彼自身の非常に影響力のある広く引用される研究について声を上げた著名な科学者であり将来のノーベル賞受賞者が、活動家やイデオロギーとして汚名を着せられたのである。

IX #2240 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)

ローランドにとって、科学界は政治的でも冷淡な立場を取るものではなく、むしろその業界の利益に直接影響を与える規制に対抗するためにロビー活動を行う数十億ドル規模の産業でした。科学戦争のピーク時には、科学に政治的または文化的な要素があるという主張は、しばしば科学的権威への急進的な攻撃として提示されました。酸性雨の例を振り返ると、非常に異なる道徳的な教訓が浮かび上がります。確かに、科学は微妙な影響や明白な影響を受けることがあります。しかし、政治的任命者が科学文書を著者の知らないところで書き換えることができる世界において、歴史家や社会学者が歴史の問題のあるエピソードを指摘したからといって、一般の人々が科学者を信頼しなくなるという恐れは、まったく的外れです。むしろ、酸性雨のケースにおけるレーガン政権の介入を慎重に文書化したのは、二人の歴史家、オレスケスとコンウェイでした。科学戦争の間に「反科学」として風刺された分野で働く学者たちは、記録を正し、科学の方法と公共の理解を向上させるために必要な批判的分析を提供してきました。

そして、CFCに対する運動を先導したのは、ノーベル賞を受賞した「急進的環境主義者」でした。この章で描いた「真実」と「虚偽」の像は、私たちの信念が行動を導く特定の役割を果たすというものです。私たちは、将来の成功した選択を導くために「真実」とされる信念を持ちたいと考えています。そのため、私たちは通常、そうした信念が利用可能な証拠と一致し、支持されることを期待します。私たちは、成層圏のオゾン層が太陽放射から私たちを守り、CFCによってオゾンが減少する可能性があり、その減少が一部の地域で非常に迅速に進行しているためにオゾン層に穴が開いていることを知りたいのです。そして、私たちはオゾン減少を遅らせたり逆転させたりするための規制の枠組みを採用できるようにしたいのです。同様のことが酸性雨にも当てはまります。

（以下で「信念が『真実』である」と言うとき、私たちが意味するのはそのことです。同様に、「偽」の信念とは、証拠や成功した行動との関係を持たないものを指します。）

この考え方は、政治的な議論の文脈における科学的権威を理解する上で重要です。実際の問題は、私たちのほとんどが特定の科学者コミュニティが持つデータの全体を独立して評価することも、ましてや収集して分析することもできない立場にあるということです。実際、多くの個々の科学者もこの立場にはありません！つまり、科学者が証拠を集めており、その証拠が説得力があると主張する場合、私たちは彼らの言葉を信じる以外に選択肢がほとんどないのです。そして、私たちが科学者の言うことを受け入れるかどうかは、科学者がその証拠を正確に収集し報告する能力や、それに基づいて信念を責任を持って更新する能力をどれだけ信頼するかに依存します。最終的に、私たちが意思決定を行う際に科学的知識に依存する理由は、科学者が神聖な存在であり、合理性の山頂から永遠の真実を語るからではありません。むしろ、科学者は通常、利用可能な証拠を体系的に収集し評価する最良の立場にいるからです。公共の利益に関する問題に対する科学者の見解—環境問題、薬やその他の医薬品の安全性と有効性、新技術に伴うリスクに関する質問など—は、見解を持つ人々の権威によるものではなく、私たちが持つ最良の証拠に基づいているため、特別な地位を持っています。このことは、オゾンホールや酸性雨の事例で明確に見ることができます。オゾン層に穴があると信じる理由は、科学者がそのような穴があると言ったからではありません。異なる場所に設置され、異なる方法で測定を行うように設計され、慎重にキャリブレーションされた複数の装置が、上層大気のオゾンレベルを測定し、著しく低下したオゾンレベルを検出したからです。そして、私たちが信じる理由は、

CFC（クロロフルオロカーボン）がオゾンホールを引き起こした理由は、CFCがオゾンを減少させる可能性があるという慎重に検証された理論が存在し、その過程で予測される副産物が南極上空の大気中で検出されたからです。同様に、石炭火力発電所から排出される硫黄や、遠くの地域での酸性雨についても同じことが言えます。科学が文化や政治と深く結びついていること、そして科学者たちが過去にしばしば誤りを犯してきたことを受け入れたとしても、これらの事実は変わりません。現在の科学がどのように欠陥を抱えているかを探求することは、科学そのものの自然な一部です。私たちが間違っている可能性を真剣に受け止めるなら（これは科学の全体的な取り組みにおいて中心的な立場です）、特に科学者自身が見落としがちな批判に重きを置くことに熱心であるべきです。この批判の結果、より良い科学が生まれます。より説得力のある議論、歪みの少ない情報、そして行動へのより良い指針が得られるのです。真剣な社会学者、人類学者、歴史家、科学哲学者、そして科学者自身の努力によって、私たちは科学がどのように機能し、なぜ私たちの意思決定において中心的な役割を果たすべきなのかをよりよく理解することができました。この観点から見ると、科学に対する本当の脅威は、その文化的文脈によって影響を受ける方法や、それらの影響を引き出す哲学的・社会的批判からではありません。むしろ、本当の脅威は、自らの利益のために科学的知識を操作したり、それを政策決定者から隠そうとする人々から来るのです。私たちは哲学的な懸念を軽視し、必要なときには行動を起こすのが得意ですが、誤情報を広める人々から自分たちを守るのは、はるかに難しいのです。

元素水銀は、室温で液体の唯一の金属です。アリストテレスはこれを「クイックシルバー」と呼び、その奇妙な美しさを表現しました。しかし、この特異な美しさは同時に致命的でもあります。水銀にさらされると、皮膚の下を虫が這っているような感覚、極度の筋力低下、脱毛、偏執症、精神的不安定、そして高濃度の曝露では死に至ることもあります。

水銀の使用の歴史は、毒物による中毒の事例で満ちています。統一中国の初代皇帝である秦始皇は、彼を不死にするために意図された水銀の錠剤を摂取した結果、紀元前210年に亡くなったと報告されています。アイザック・ニュートンは、その輝かしい生涯の終わりに、彼の水銀に関する実験の結果として、偏執病と狂気に陥りました（死後の髪のサンプルからは高い水銀濃度が確認されました）。20世紀の終わりまでには、水銀の危険性は十分に認識されており、アメリカ、ヨーロッパ、日本、中国などではその使用が厳しく規制されていました。水銀中毒は制御されるべきものでした。

しかし、2000年頃から、アメリカの医師ジェーン・ハイトウエイは、彼女の患者に特有の症状のクラスターを見つけ始めました：脱毛、吐き気、倦怠感、脳の霧。これらはすべて水銀中毒に関連していますが、これらの患者は重金属に接触するような生活を送っていなかったため、彼女はその診断を思いつきませんでした。ところが、ある同僚が公共ラジオで、地元の人々が水銀中毒による脱毛やその他の病気に苦しんでいる町の話を聞いたのです。この同僚は、ハイトウエイの患者の一人に水銀検査を依頼しました。すると、患者の水銀レベルは確かに上昇していました。その患者はまた、たくさんの魚を食べていました。新たな仮説を持って、ハイトウエイは他の謎の患者たちに「どのくらいの頻度で魚を食べますか？」という新しい質問を投げかけました。結果として、これらの患者は裕福で健康志向であり、サメやメカジキ、マグロなど、食物連鎖の上位に位置する魚を非常に頻繁に食べていることが分かりました。

その後数年の間に、ハイトウエイは観察結果を体系的に記録し、海産物における水銀汚染に取り組むEPAの職員を含む同僚たちに彼女の疑念を共有しました。彼女が話した医師の中には、自分の患者に水銀中毒の証拠を探し始める者もいました。彼女の病院の産科医たちは、妊娠中の女性に警告を発しました。

特定の魚を食べることを避ける女性たちが増えました。胎児の脳は水銀の影響を特に受けやすいためです。ある医師の友人たちは捕食魚を食べるのをやめました。病院のカフェテリアでは缶詰のツナの提供を中止しました。地元のニュース番組はハイタワーの疑念について報道しました。その後、全国放送のニュース番組「20/20」が水銀中毒と魚に関する特集を組みました。テレビの取材班は地元のスーパーマーケットで魚の水銀レベルをテストし、特にサメやカジキの一部が、米国食品医薬品局（FDA）が安全と見なすレベルを大きく上回っていることを発見しました。ハイタワーの主張に関する報道は広範囲にわたり、多くの医師が患者の魚に関連する水銀中毒を監視するようになり、ハイタワーの仮説を支持する証拠が徐々に蓄積されていきました。

私たちは科学的発見を孤高の天才たち—水銀のように変わりやすいアイザック・ニュートン、チャールズ・ダーウィン、アルバート・アインシュタイン—と結びつけがちです。彼らは啓示の瞬間に新しい理論を思いつくと考えられています。しかし、実際の発見ははるかに複雑で、ほぼ必ず多くの人々が関与しています。ほとんどの科学的進歩は、コミュニティ内での知識のゆっくりとした蓄積から生まれます。推測や観察はさまざまな方向から寄せられ、これらの洞察は徐々に広がり、さらに多くの仮説や新しい証拠の収集方法を生み出します。長い共同作業のプロセスを経て初めて、科学者たちは新しい発見を達成したと言えるのです。このプロセスにおいて重要なのは、科学者同士を結びつける人間の相互作用のネットワークです。

ジェーン・ハイタワーは水銀中毒と汚染された魚の過剰摂取を結びつける努力を主導しましたが、彼女は一人ではありませんでした。彼女の患者の脱毛症を水銀中毒と最初に結びつけたのは同僚でした。また、彼女の研究を聞いたEPAの連絡先が、魚に含まれる水銀に関する最近の政府の研究を共有しました。他の医師たちも似た症状の患者について知らせてくれたことで、彼女の症候群に対する理解が深まりました。ハイタワーの考えは、彼女自身の経験だけでなく、外部からの証拠によって常に影響を受けていました。逆に、ハイタワーの洞察は他の人々がさらに進展するのを助けました。

彼女が証拠を集め始めると、彼女の研究は周囲の人々—産科医や他の医療従事者、医療団体—の信念や行動に影響を与え始めました。彼らはさらに証拠や関連性を見つけていきました。最終的に、水銀中毒と海産物消費との新たな関連性が発見されたのは、アイデアや証拠を共有する科学者や医師のコミュニティ、またはネットワークが新しいコンセンサスを採用したときでした。このように、科学的発見に関わる人々は周囲の人々によって支えられます。しかし、時にはその支えが逆に障害となることもあります。ハイタワーの証拠は、彼女が共有した全ての人々を納得させるものではありませんでした。多くの同僚にとって、彼女は環境活動家のように見えたり、あるいはただの詐欺師に過ぎないように思われました。実際、ハイタワーが観察した症状が水銀によるものであるとは考えにくい理由がいくつかありました。2000年代初頭には、すでに一部の魚に水銀が含まれていることは広く知られていました。石炭火力発電所は無機水銀の一種を大気中に排出し、それが徐々に地上に降り注ぎ、海水に混ざり込み、微生物によって取り込まれ、非常に毒性の強いメチル水銀に変換されました。これらの微生物は小魚に食べられ、小魚は大きな魚に食べられ、食物連鎖を上昇していきました。メチル水銀は動物の組織に蓄積される傾向があるため、大きな魚は高濃度の毒素を蓄積していました。これが、FDAが商業的に販売される魚のメチル水銀のレベルを規制するガイドラインをすでに持っていた理由です—実際、いくつかのスーパーマーケットの供給品はその基準を超えていました。したがって、魚に有毒な水銀が含まれているという考えは論争の余地がありませんでした。しかし、全体のプロセスがよく理解されているように見えたため、規制当局、特にFDAは危険が何であるかを知っていると思っていました。ハイタワーの研究が提示されたとき、FDAは「実際には誰も魚を食べ過ぎて水銀中毒になることはない」と反応しました。多くの同僚も同意しているようでした。それでも、ハイタワーは患者グループの魚の摂取量、症状、血中水銀レベルを記録する1年間の調査を進めました。彼女はこれらの結果を発表し、EPAの連絡先と共有し、彼女の研究を水銀専門家の会議で発表するよう招待されました。別の同僚の提案で、彼女はメチル水銀の危険性についての決議を作成しました。

763/5229
ae Drtlb RE ish
S435
yb
<ms
El #3220 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)
ANF
Comvy
a) Xo OOo
we A
そして、それに対処する方法について、カリフォルニア医師会とサンフランシスコ医師会によって提案されました。時が経つにつれて、そしてますます多くの証拠が集まる中で、彼女は徐々に同僚たちを説得していきました。今日、世界中の政府機関は、魚からのメチル水銀中毒のリスクについてより理解を深めており、曝露をより良く管理するためのガイドラインを発表しています。

0
15% 49/253R-3 + {i}ENo, 766/5229 i S435y <ms
EE #3220 Kindle for PC
4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)
Ire4b RR BH Yb AN
Comy a) xX oo
we A
1953年2月28日、昼食時、イギリスの生物学者フランシス・クリックは、ケンブリッジのイーグルパブで同席していた仲間の食事客の注意を引きました。彼は重要な発表をするために立ち上がりました。彼とアメリカの遺伝学者ジェームズ・ワトソンは「生命の秘密を発見した」と言ったのです。その秘密とは、ワトソンとクリックによれば、地球上のほぼすべての生命の基本的な遺伝物質を含む複雑な分子、DNAの物理的構造でした。DNAの構造を発見する過程で、ワトソンとクリックは多くの道具を駆使しました。おそらくその中で最も象徴的なのは、さまざまな原子とそれらの間の電気的結合を表現するために使用した、華やかなティンカートイのセットでした。これらのブロックは、ワトソンとクリックが多様な分子構造の実現可能性について仮説を検証するのを可能にしました。彼らが作り上げた構造は、ほとんどの点で分子とはまったく異なっていました。部品は原子の何百万倍も大きく、さまざまな色に塗られており、原子は決してそうではありません。電子構造は、ボールから異なる角度で突き出た棒で表現されました。それでも、これらのブロックを使って実験することで、ワトソンとクリックはDNAの実際の構造に関する重要な洞察を引き出すことができました。ワトソンとクリックがブロックを使って行った推論の方法は、科学の中で普遍的です。彼らは理解と推論の助けとしてモデルを構築しました。モデルはさまざまな形を取り得ます：実験室で開発された物理的構造、コンピュータプログラム、さまざまな種類の数学的構造などです。通常、モデルは

S435) <ms
BE #3280 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)
科学者たちが操作し介入できる、何らかの簡略化された、あるいは扱いやすいシステムを用いることで、最終的に関心のあるより混沌とした、または複雑なシステムについてより良く学ぶことができるのです。ワトソンとクリックは分子の実際の構造を操作することはできませんでしたが、彼らはその構成要素を操作し、得られた構造を使って実際のシステムについて学ぶことができました。実際、前の章でこの種のモデルの例を紹介しましたが、明示的にはそのようにラベル付けしませんでした。ベイズの法則は、人々が新しい証拠に基づいて信念をどのように変えるべきかを示す公式です。ベイズの法則を適用するためには、まず私たちのさまざまな信念に対する自信を確率として考える必要があります。基本的には、0と1の間の数値であり、いくつかのさらなる条件を満たさなければなりません。この全体像は、信念の度合いが数値であり、証拠を集めるにつれてベイズの法則によって変化することができるという、私たちが実際にどのように考えを変えるかの簡略化された数学モデルとして考えることができます。

もちろん、このモデルは実際の推論のケースを完璧に捉えることはできません。しかし、それでも私たちの信念が世界について学ぶにつれてどのように進化するのかについての洞察を提供することができます。このモデルは、信念が度合いを持つという考えを捉え、それらの信念がどのように変わるべきかの条件を示しています。たとえば、私たちが持っている証拠がその信念が真である場合に非常に起こりやすいものであれば、私たちはその信念に対する自信を高めるべきです。逆に、信念が真である場合に証拠が起こりにくいのであれば、私たちは自信を失うべきです。第1章で議論したように、この洞察だけでも、科学が何かについて確実性を提供できるかどうか、そしてそれを気にすべきかどうかを考える上で有用です。

ベイズ的信念の更新は、個々の信念がどのように変わるかのモデルを提供します。しかし、メチル水銀のケースで見たように、科学はしばしば個人ではなくコミュニティのレベルで理解される必要があります。科学者のグループ—ジェーン・ハイトワーが所属していたような—は、どのように知識、証拠、信念を共有するのでしょうか？彼らはどのように合意に達するのでしょうか？

これらのプロセスは、科学について何を教えているのでしょうか？これらの質問も、モデルを開発し検討することで研究することができます。方法はいくつかありますが、ここではシンプルにするために、1つのフレームワークに焦点を当てます。他に重要なモデルについては、脚注で触れます。私たちが注目するフレームワークは、1998年に経済学者のヴェンカテッシュ・バラとサンジーブ・ゴヤールによって導入された数学的モデルです。このモデルでは、個々の人々が自分の世界について観察や隣人の話を聞くことで学ぶことが示されています。バラとゴヤールがモデルを発表してから約10年後、現在カーネギーメロン大学にいる科学哲学者のケビン・ゾルマンは、このモデルを科学者とその相互作用のネットワークを表現するために使用しました。私たちもゾルマンと同様に、このモデルやそのバリエーションを利用します。なぜここでモデルが有用なのでしょうか？科学者のコミュニティは非常に複雑です。実験やケーススタディを通じて調査することができますが、これらの強力な手法でもできないことがあります。たとえば、メチル水銀が魚を食べる人々を中毒させているというアイデアが、科学的ネットワーク全体でどのように進展したかを追跡することはできません。各科学者はどこでその情報を最初に聞いたのでしょうか？いつその正しさを確信したのでしょうか？その科学者は誰とその情報を共有したのでしょうか？これは特に、過去の深い時代に起こった科学的洞察や、大規模な研究者ネットワークが関与する場合に当てはまります。モデルは、科学者のコミュニティや一般的な知識探求者の間で信念がどのように広がるかについての理解のギャップを埋めるのに役立ちます。もちろん、科学者が証拠を集めて互いにコミュニケーションを取るモデルは、科学的アイデアがどのように発展し広がるかのすべての詳細を捉えることはできません。たとえば、「ユリカの瞬間」—分野を前進させる素晴らしいアイデアのひらめき—をモデル化しようとはしません。（ただし、こうした瞬間が歴史が与える重要な役割を果たすとは懐疑的です。）また、科学者間の権力のダイナミクスや、科学的アイデアの受け入れにおける名声やタイミングの役割もモデル化しません。私たちは、信念と証拠のダイナミクスにのみ焦点を当てます。この非常に単純化されたモデルでも、他の方法では得られない驚くべき情報を提供してくれることがあります。

これは、コミュニティ内での信念の広がりについて新たな考え方を提供し、さまざまな条件下でそのダイナミクスがどのように変化するかを問いかける方法を示しています。

バラとゴヤールのモデルの基本的な設定は、非常に理想化された科学者や知識を求める者たちのグループが存在し、彼らは二つの行動のうちどちらかを選ぼうとしているというものです。彼らは自分自身や他者から得た情報を用いてこの選択を行います。この二つの行動は、望ましい結果を得る可能性が異なると仮定されています。たとえば、魚を食べるかどうかの選択は、水銀中毒のリスクを増やすか減らすかを表すことができます。また、煙突からの排出を規制することも、酸性雨のリスクを増やすか減らすかに関連しています。非常に単純な例として、二つのスロットマシンの前に立ち、どちらがより多くの配当を出すかを見極めようとしている人を想像してみてください。

モデル内の各科学者は、一連のラウンドを通じて一方の行動を選択します。彼らは問題について現在信じていることに基づいて選択を行い、その結果を記録します。初めのうちは、どちらの行動が望ましい結果を得る可能性が高いのか確信が持てません。しかし、選択を重ねるうちに、各行動がどのような結果をもたらすかを徐々に理解していきます。これらの結果は、彼らが信念を更新するための証拠となります。重要なのは、各科学者が自分の行動の結果だけでなく、同僚や友人の行動の結果にも基づいて信念を形成することです。たとえば、臨床医のハイトワーは、自分の患者に何が起こるかを観察し、同僚の患者についても耳にするかもしれません。彼女はこれらすべての観察を用いて、自分の患者の症状が水銀中毒によるものかどうかを判断します。同様に、カジノで一つのスロットマシンを好んでいても、友人たちが別のマシンでジャックポットを当てたと聞けば、考えを変えるかもしれません。

このモデルでは、二つの行動のうちの一つ—行動Bと呼びましょう—が、実際には行動Aよりも優れています（混乱を避けるために、Aは「大丈夫」、Bは「より良い」という意味であることを覚えておいてください）。しかし、どちらの行動が優れているかを見極めるのは必ずしも簡単ではありません。このモデルの重要な前提は、証拠が...

Xl 8482/0 Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)

科学者たちが世界を調査する際、例えばスロットマシンを試したり、病気の患者に魚を食べないよう警告したりする場合、結果は必ずしも同じではありません。行動Bは、平均的に見てより良い結果をもたらすため、行動Aよりも優れています。しかし、行動Aが偶然により良い結果をもたらす個別のケースも多く存在します。このように、行動Bは偏ったコインに似ていると考えることができます。偏ったコインは普通のコインよりも表が出ることが多いかもしれませんが、それが裏が出ないというわけではありません。そして、偏ったコインと偏らないコインを何度か投げた場合、偏ったコインがより多く表が出る保証はありません。ただ、そうなる可能性が高いというだけです。

すべての科学がこのようなものではありません。例えば、重力の法則を調査している場合、エンパイア・ステート・ビルの頂上からボウリングボールを何度も落とし、それぞれの試行で非常に注意深くタイミングを計った場合、結果は驚くほど一貫しています。同様に、天然ガス、酸素、炎を混ぜる場合も、私たちは何が起こるかを知っています。

しかし、多くの科学の分野では、証拠はそれほど信頼できるものではありません。例えば、メチル水銀を考えてみてください。個々の毒素に対する感受性は大きく異なり、同じ量のカジキを食べた二人が非常に異なる症状を示すことがあります。さらに厄介なことに、症状が現れるまでには時間がかかります。振り返ってみると、中国の皇帝たちが不老不死になるために水銀の錠剤を飲んでいたことを思い出し、「なんて愚かなんだ！どうして彼らはこの物質が毒性を持つことに気づかなかったのか？」と思うのは簡単です。しかし、水銀は歴史的に再び医学に使用されてきました。統計的手法がなければ、その使用と害を明確に結びつけることは実際には非常に難しいのです。影響があまりにも変動的だからです。このような場合、科学的合意に達することは困難であり、私たちが説明しているようなモデルは、その合意がどのように形成されるかを理解するのに役立ちます。また、私たちの例は科学から来ており、モデル内のエージェントを「科学者」と呼んでいますが、これらのモデルは予測不可能な世界で自分たちの道を切り開こうとしているあらゆる人々のグループを表すことができることを強調すべきです。

私たちは時々、科学者のように行動します。自分自身や友人の経験に基づいて決定を下すときです。車を買ったことはありますか？試乗をしたり、ディーラーに質問をしたりした可能性が高いです。決定を下す前に証拠を集めていたのです。また、友人や親戚にアドバイスを求めたり、オンラインレビューを見たりしましたか？もしそうなら、他の人々の経験を参考にして、自分の信念に影響を与えたことになります。最終的には、その影響があなたの行動にもつながります。このように、これらのモデルは非常に広範囲に適用できます。（この点については第4章で再び触れます。）

私たちはバラとゴヤールのモデルを数学的なものとして説明しましたが、ここで数学がどのように関わってくるのか疑問に思うかもしれません。もう少し詳細に掘り下げてみましょう。私たちは「科学者」が「信念」に基づいて「行動する」といった擬人化した言葉を使っていますが、実際にはコンピュータシミュレーションについて話しているのです。ここには実際の決定や物理的な行動、信念を持つ心は存在しません。代わりに、私たちは「ノード」と呼ばれる集合体からなる抽象的なネットワークを持っています。各ノードは科学者を表し、エッジと呼ばれるもので他のノードと接続されている場合もあれば、そうでない場合もあります。各エッジは、互いの結果にアクセスできる二人の科学者をつなぎます。

図1は、コミュニケーションネットワークの一例を示しています。各ネットワークでは、ノードが個人やエージェントを表し、それらの間の接続（エッジ）が社会的なつながりを示しています。完全なネットワークのように、密に接続されているものもあれば、サイクルのように疎なものもあります。クランプ状のネットワークはクリークを含み、星型や車輪型のネットワークでは、ある個人が他よりも中心的な役割を果たします。これらの構造は、信念がネットワーク内でどのように広がるかに影響を与えます。これらのネットワークはさまざまな形を取ることができます。図1は、科学者のコミュニケーションネットワークがどのように見えるかのいくつかの例を示しています。これらの中には、特定のパターンに従うものもあります。

『Kindle for PC 4 - 誤情報の時代：誤った信念が広がる仕組み（英語版）』

サイクルは、各個人が他の二人に接続されたリングのような形をしており、完全なネットワークはすべてのエージェントを直接つなげています。また、星型と車輪型のネットワークには中心となるノードが一つあり、車輪型では他の個人が緩やかに接続され、星型では全く接続されていません。実際の人間のネットワークはそれほど整然とはしていません。しばしば、より規則的な構造を模倣するサブストラクチャーを持っていますが、同時に「塊状」であり、よく接続されたクリーク間にランダムなリンクが存在します。これらの構造は、情報やアイデアがグループ内でどのように流れるかを決定する上で重要です。

ノードはどのように意思決定を行ったり行動を起こしたりするのでしょうか？モデルでは、各ノード—各科学者—は0から1の間の数値に関連付けられています。この数値は、行動Bが行動Aよりも優れているという科学者の確信度を表しています。0.7の割り当ては、その科学者が行動Bが行動Aよりも70％の確率で優れていると考えていることを意味します。科学者がどの行動を取るかは、この数値によって完全に決まります。もしこの数値が0.5を超えていれば、科学者は行動Bを実行します。これは、スロットマシンを何度か引いて、その結果をカウントすることをシミュレートすることを意味します。そして、ベイズの定理を用いて、この結果に基づいて科学者の確信度を更新し、ネットワーク内の他の隣接する科学者の確信度も同様に更新します。もし科学者の信念が0.5未満であれば、行動Aを実行します。モデルの最も単純なバージョンでは、誰もがこの行動がちょうど半分の確率で成功することを知っていると仮定します。

これは、例えば新しい医療治療（行動B）が、すでに利用可能な別のよく研究され理解された治療（行動A）が存在する市場に導入された状況として考えることができます。医師たちは、新しい治療が古い治療よりも優れているかどうかにのみ関心があります。彼らはすでに古い治療がどれほど効果的かを知っています。しかし、科学者のネットワークが存在するため、特定の科学者は自分自身がその行動を実行しなくても、隣人から新しい治療の有効性に関する証拠を得ることができます。これは、他の医師がドクターから学んだことに似ています。

ハイタワーの結果は、彼らが自分たちの患者の水銀レベルをテストすることを考えもしなかったにもかかわらず得られました。図2は、このプロセスがどのように見えるかの一例を示しています。まず、(a)では、6つのノード（科学者）とそれらの接続（エッジ）のネットワークが見えます。各科学者は、行動Bがより良いという信念の度合いを0から1の範囲で持っています。この特定のネットワークに基づいて、4人の科学者が行動A（明るいノード）を実行し、2人が行動B（暗いノード）を実行することがわかります。彼らがそれぞれの行動を10回実行すると仮定しましょう。(b)では、彼らが得た結果の一例（2、5、7など）が示されています。次に、(c)では、各科学者が自分自身と隣接する科学者が観察した結果に基づいてベイズの法則を用いて信念を更新する様子が見えます。行動B（新しい未知の治療法）を試みた誰かとつながっている科学者は、信念を更新します。（信念が0.02の科学者は、行動Bを試みた誰ともつながっていないため、信念を更新しません。）この場合、ほぼ全ての科学者が行動Bに対する信頼を高めました。予想通り、行動Bは行動Aよりも成功する傾向があったからです。実際、次に行動を起こすとき、5人の科学者が行動Aの代わりに行動Bを試みることがわかります。

図2. バラとゴヤルスタイルのモデルにおける更新と実験の例。科学者たちは初期の信念（a）から始め、これを基に世界をどのようにテストするかを決定します（b）。明るいノードは行動Aを取る者を、暗いノードは行動Bを取る者を表しています。(c)では、行動Bのテストを観察した科学者が信念を更新する様子が示されています。このプロセスは段階的に続きます（行動を試み、信念を更新し、行動を試み、信念を更新する）そして、科学者たちが合意に達するまで続きます。これは、全ての科学者が行動Bがより良いという信念を持つのが十分に高い（0.99以上）場合、または全員が行動Bがより良いという信念を持つのが十分に低い（0.5未満）場合に起こります。この場合、ネットワークは行動Bを実行することはなく、何も新たに学ぶことはありません。最初のケースでは、ネットワークが真実の信念に収束したと言います。第二のケースでは、偽の信念に収束したと言います。一般的に、これらのモデルは真の合意に収束する傾向があります。つまり、ネットワーク全体が行動Bがより良いと信じるようになります。

しかし、私たちが見るように、科学者たちは時に誤った信念に至ることがあります。私たちが理解したいのは、どのような状況下で科学者のネットワークが誤った信念に収束するのかということです。胃潰瘍は胃の内壁にできる痛みを伴う潰瘍です。実際、これらはH.ピロリという種類の細菌によって引き起こされることがわかりました。この細菌が潰瘍を引き起こすことを決定的に示したことで、オーストラリアの医学研究者ロビン・ウォーレンとバリー・マーシャルは2005年のノーベル賞を受賞しました。彼らは1980年代にこの関係を同僚の科学者たちに納得させることに成功しました。しかし、ウォーレンとマーシャルがこの関連性を発見したと言うのは少し奇妙です。実際、潰瘍が細菌によって引き起こされるという理論は1874年に遡ります。当時、ドイツの細菌学者ボッチャーとフランスの共同研究者ルテュールが潰瘍内の細菌コロニーを分離し、これらの細菌が潰瘍の原因であると主張しました。その後の数十年間で、細菌が実際に潰瘍の原因であるという証拠が徐々に蓄積されました。

しかし、細菌理論だけが存在していたわけではありませんでした。もう一つの可能性として、多くの医師や科学者が受け入れていたのは、胃酸が原因であるという考え方でした。20世紀初頭、科学者たちは両方の理論を調査し、それぞれに有利な証拠を見つけました。しかし、1954年に細菌理論は壊滅的な打撃を受けました。消化器内科医E.D.パーマーは、1000人以上の患者の胃を生検し、細菌の証拠を全く見つけられませんでした。結論として、細菌は人間の胃の中で生存できないため、潰瘍を引き起こすことは不可能であるということになりました。パーマーの結果は、細菌理論を確認しようとする試みを事実上終わらせました—抗生物質で潰瘍患者を成功裏に治療し続けた数人の孤立した医師を除いては。（胃酸を抑制することも助けにはなりましたが、この方法で治療された潰瘍は再発する傾向がありました。）パーマーが結果を発表してからほぼ30年後、ウォーレンが潰瘍のある組織の近くで胃の生検から新しい細菌株を観察したとき、細菌理論に関する真剣な研究が再び活発になりました。

その後、マーシャルは新しい菌株を分離し、培養することに成功し、最終的に細菌が人間の胃の中でも生きられることを明確に示しました。しかし、これらの強力な結果にもかかわらず、ウォーレンとマーシャルは大きな懐疑に直面しました。酸の理論は広く受け入れられ、深く根付いていたのです。その抵抗は非常に強く、マーシャルは自らの理論に注目を集め、支持者を増やすために劇的なパフォーマンスに頼らざるを得ませんでした。彼は怒りのあまり、ペトリ皿に入った18%のバイ菌を自ら飲み干し、その後、抗生物質で生じた潰瘍を治療することに成功したのです。最終的に、ウォーレンとマーシャルは同僚たちを説得し、細菌理論が正しいことを認めさせることができました。しかし、この出来事は別の結果になっていたかもしれません。もし細菌理論にチャンスを与える意欲のある科学者がいなかったら、私たちは今でも再発する潰瘍を治療するために制酸剤を使っていたかもしれません。なぜこのようなことが起こるのでしょうか？バラ・ゴヤルモデルからの最も驚くべき発見の一つは、人々の信念がどれほど強く互いに影響し合うかということです。もしネットワーク接続のないエージェントのグループが確率的な証拠を集め（そしてそれを共有しない場合）、一部は正しい理論に至り、一部は間違った理論に至ると予想されます。たとえば、より良いスロットマシンをプレイして全財産を失った科学者は、そのマシンを永遠に諦めるかもしれません。しかし、コミュニケーションがなければ、さまざまな科学者の信念の間に大きな相関関係は期待できません。ある科学者は運が良く、より良いマシンを使い続けるでしょうが、他の科学者はそうではないでしょう。それぞれの結論は他のすべてから独立しています。しかし、科学者たちが証拠を共有し始めると、彼ら全員が同じことを信じる可能性が非常に高くなります。これは、良い結果でも悪い結果でも同様です。この現象は、モデルの中で科学者たちが証拠を共有するからこそ起こります。ここには心理学は存在しません。誰も他の誰かを模倣しているわけではなく、誰も他の人に合わせようとしているわけでもなく、誰も他の人より賢いわけでも愚かではありません。思想的リーダーや盲目的な支持者も存在しません。なぜこのようなことが起こるのでしょうか？科学者のグループが集まり、データを共有している様子を想像してみてください。仮にその中の数人が、魚の消費を減らすというより良い行動を試みたとしましょう。これは、魚を食べ過ぎることが水銀中毒を引き起こす可能性があるという仮説に基づいています。

彼らが証拠を集め続けるにつれて、その影響は同僚や近隣にも広がり始めます。これは、ハイタワー事件で見られたことと同様です。中には、正しい理論を信じ始め、自らもその証拠を集める人々が出てきます。彼らは次に、新たな同僚や近隣を説得することができます。このようにして、信念はネットワーク全体に広がり、最終的には皆が同意するようになります。特に注目すべきは、成功した新しい信念が、証拠を共有する能力がなければ非常に起こりにくかった方法で広がる可能性があるということです。

例えば、ほとんどすべての科学者が既存の信念（例えば、魚に含まれる水銀が人を中毒させていないという信念）を持っているとしましょう。彼らが水銀と魚について証拠を集めるとは期待できません。なぜなら、彼らにはその必要がないからです。データの共有がなければ、各科学者が独立してこの新しい可能性を試すことを決定する確率は非常に低いのです。しかし、データを共有することで、たった一人の科学者が新しい仮説を試し始めるだけで、それが科学ネットワーク全体に広がり始めるのです（その科学者がポジティブな結果を得た場合）。

図3は、このプロセスがどのように見えるかを示した簡略化されたイメージです（成功の部分は示していません）。各ラウンドで、より多くの科学者が隣人の結果に説得されてより良い行動を試み、最終的にはネットワーク全体に広がっていきます。

図3は、真実の信念に収束するネットワークの一例です。明るいノードはAに対する信念を、暗いノードはBに対する信念を表しています。各時間ステップで、エージェントは自分の信念をテストし、その結果や隣人の結果に基づいて信念を更新しています。時間が経つにつれて、より多くのエージェントが真実の信念に高い信頼を持つようになり、最終的にはネットワーク全体が行動Bがより良いとほぼ確信するようになります。これは楽観的な結果です。私たちが序論で主張したように、知識の社会的な広がりは二面性を持っています。それは、私たちが世界について洗練された知識を発展させるための驚くべき能力を与えてくれますが、同時にそれは誤った信念の広がりをも引き起こす可能性もあるのです。

Kindle for PC  
4 - 誤情報の時代: 偽の信念が広がる仕組み (英語版)  

誤った信念の広がりの扉を開くのが、科学者たちの行動です。特に難しい問題に取り組む際、科学者たちは間違ったことに同意してしまうことがあります。これは、数人の科学者が誤解を招く結果を連続して得て、それを同僚と共有する時に起こります。本来、真実を信じる方向に進んでいたかもしれない科学者たちが、仲間の誤解を招く証拠によって脱線してしまうのです。このような場合、他者からの意見を得ない方が良かったかもしれません。

このことを理解するために、少し考える時間を持つ価値があります。通常、科学者が合理的に行動しながら不確実なデータを集めると、証拠を共有することでグループ全体が正しい信念に到達し、最初は懐疑的だった人々をも説得することができます。しかし、時にはこのプロセスが裏目に出て、科学者間のコミュニケーションが誤った信念に対する合意を生むことがあります。例えば、「野菜の羊」という奇妙な信念は、学者たちの間でのコミュニケーションがなければ、決して広まることはなかったでしょう。証拠の共有が、正しい信念を持つ多くの人々を誤ったことが真実だと信じ込ませてしまったのです。このように、真実の信念を広める一方で誤解を招く証拠の拡散をもたらす関係性は、特に難しい問題に取り組む科学者のグループにとって、時にはコミュニケーションを減らす方が良いことを意味します。この現象は「ゾルマン効果」として知られ、ケビン・ゾルマンが発見しました。

もし全員が証拠を共有するなら、偶然の悪いデータの連鎖がグループ全体を正しい理論から遠ざける可能性があります。しかし、全員が互いの意見を聞くわけではないグループでは、科学者たちの一部が誤解を招くデータから守られ、最終的にコミュニティ全体を説得する真実の信念に関する証拠を集め続けることができます。

別の言い方をすれば、科学コミュニティには一時的な信念の多様性が重要です。もし全員が同じことを信じ始めると、より良い選択肢を試すことを怠ってしまう可能性があります。

少なくとも数人が異なる可能性を試すことは重要であり、そうすることでグループは最終的に最良の選択肢を見つけることができます。この信念の多様性を長期間維持する一つの方法は、コミュニケーションを制限することです。そうすることで、研究者たちの信念が互いに影響し合うことなく、異なる理論を検証することが可能になります。

ゾルマン自身が指摘しているように、ゾルマン効果は、パーマーの研究結果が胃の中に細菌が存在しないことを示した際に、なぜそれが劇的な影響を与えたのか、また医療界が誤った理論に固執し続けた理由を説明するのに役立ちます。結局、世界中の消化器専門医たちは、パーマーの証拠に基づいて真実の理論を放棄すべきだと分かっていたにもかかわらず、コミュニティの構造が個々の信念を誤ったものにし続けました。医師たちは互いに強く結びついていたため、単一の誤解がほぼ全員を誤った信念に導いてしまったのです。彼らが取った行動は、非常に合理的な選択だった可能性が高いですが、それは同時に、すべての人が合理的な行動を取ることが、誤った信念を持続させることにもつながりました。もしもっと多くの科学者がパーマーの結果を知っていれば、細菌理論はもっと早く受け入れられていたかもしれません。もちろん、ウォーレンとマーシャルは最終的に細菌理論に戻りました。

モデルに、科学者たちが時折代替理論を試すことがあるという事実を加えると、彼らはゾルマン効果を克服することができます。これは、彼らが互いにそれほど密接に結びついていない場合と同様です。しかし、このプロセスは遅く、運に依存することもあります。一方で、これは証拠の共有によって機能します。もし驚くべき新理論に対する強力な証拠がこのようにランダムに現れれば、科学者たちのつながりがより良い理論を最終的に広めることを可能にします。

ポリー・マレーは、疲労、ひどい頭痛、そして動くのも困難なほどの関節痛に苦しんでいました。彼女は医者に診てもらいましたが、誰も彼女を助けることができませんでした。実際、多くの医者は彼女の症状が心因性である可能性をほのめかし、もっと率直に言えば、彼女を「おかしい」と思っていました。しかし、マレーは入念に記録を取り、彼女だけがその症状を抱えているわけではないことを示しました。

コネチカット州ライムという小さな町に住む彼女の友人たちとその子供たちは、同じ奇妙な病気の集団に苦しんでいました。彼女の子供のうち二人は若年性関節リウマチと診断されました。これは稀な病気で感染性はなく、流行する可能性は非常に低いように思われました。

1975年、コネチカット州の保健当局は、マリーのケースをイェール大学でフェローシップを受けていたリウマチ専門医アレン・スティアに持ち込みました。スティアはマリーと面会し、彼女は同じ症状を持つ近所の人々のリストを見せました。スティアの徹底的な調査の結果、病気の原因が特定され、後にライム病と名付けられる新しいダニ媒介の病気が診断されました。この病名は、マリーと彼女の友人たちが住んでいた町にちなんで名付けられました。数年後、原因となる細菌が分離され、ウィリー・バーグドルファーにちなんでボレリア・ブルグドルフェリと名付けられました。この発見はポリー・マリーのような患者に大きな影響を与えました。抗生物質による治療を受けた多くの患者は、かつては耐え難い痛みによって失われていた生活を取り戻しました。コネチカット州では、彼の発見を祝うために9月24日を「アレン・スティアの日」と定めました。

25年後、アレン・スティアは全国のライム病患者から死の脅迫や嫌がらせの手紙を受け取っていました。公の場に出る際には警備員を雇わなければならず、彼が現在リウマチ学の主任を務めるニューイングランド医療センターでは、彼の安全を脅かす公の脅威を監視する専門家が毎週数時間を費やしていました。一体何が起こったのでしょうか？ライム病はスピロヘータという、螺旋状の形をした細菌によって引き起こされます。これは梅毒を引き起こす細菌と同じタイプです。そして、梅毒と同様に、病気は段階的に進行します。最初の感染では、インフルエンザのような症状が現れます：発熱、頭痛、関節痛、そしてしばしば、しかし必ずしも、目立つ「的」の形をした発疹が現れます。スピロヘータが体内に広がるにつれて、一部の患者はより深刻な症状を発症します：髄膜炎、脳炎、顔面麻痺、そして精神的な障害です。

どんな感染症でも、人間の免疫システムは侵入者を攻撃し、ライムスピロヘータを特定し排除するのを助ける抗体を生成します。しかし、多くの場合、これだけでは完全に感染を抑えるには不十分です。

S495) <Bs
EE #2480 Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)
トリートメントA BHA
oO
A
EA
oO
KS, BH. Aa S
感染を抑える。ボレリアはその独特な形を利用して体内の組織に入り込み、免疫系から隠れるためのさまざまな巧妙な手段を用いる。治療を受けないまま放置すると、後期のライム病はポリー・マレーがアレン・スティアに診てもらうきっかけとなったような症状を引き起こす：関節の激しい痛み、四肢のしびれや痛み、脳の霧、 insomnia（不眠症）、極度の疲労、そして深刻な認知障害などの病気。これについては、少なくとも比較的異論はない。しかし、抗生物質でライム病を治療した後、何が起こるのか？この質問は、医療界の中心的な問題となっている。

アレン・スティアの安全が脅かされる。ライム病を治療するためには、スピロヘータを完全に排除することが必要であり、患者を病気から治すためには抗生物質の単回治療が一般的であると、米国疾病予防管理センター（CDC）などのグループによって広く支持されている見解が一方にある。もう一方には、抗生物質治療を受けたにもかかわらず、依然として病気特有の衰弱する症状を経験しているライム病患者が多数存在するという現実がある。彼らの経験に基づいて、「ライム病に詳しい」医師たちは「慢性ライム病」の治療プログラムを開発し、通常は重度の抗生物質使用を繰り返すことを含んでいる。1990年代初頭、ライム病に詳しい医師の運動の出現を観察していたスティアは、ライム病の診断が線維筋痛症や慢性疲労症候群などの他の病気の「キャッチオール」となっていることに懸念を抱いた（これらもまた理解が不十分で論争の的である）。彼に紹介された患者を調査した結果、多くの患者がライム病を患っていないという意見を持つに至った。長期的な抗生物質使用には深刻な副作用があることを知り、彼はライム病の診断と治療においてより慎重になるよう公に提唱し始めた。こうして、慢性ライム病を巡る数十年にわたる戦いが始まった（現在も続いている）。

スティアー氏やほとんどの専門医団体、疾病管理センターは、慢性ライム病は実際には他の病気の組み合わせであり、治療後もライム病に対する免疫反応が続く神秘的なポストライム症候群が関与している可能性があると主張しています。彼らは、長期の抗生物質治療が病気の患者に深刻な害を及ぼし、何の利益ももたらさないと主張しています。*1 彼らが指摘するには、ほとんどの慢性ライム病患者はライムスピロヘータの検査で陽性にならず、国立衛生研究所が実施した4つの大規模な研究では、長期の抗生物質治療がこれらの患者の症状を改善しないことが示されています。*2

一方、この議論の反対側には、患者、ライム病に詳しい医師、さまざまな支援団体がいます。彼らは、ライムスピロヘータが体内に隠れ、標準的な抗生物質治療による完全な根絶を避けることが多く、長期の抗生物質が効果的な治療法であると主張しています。関与する医師たちは、何千人もの患者を成功裏に治療したと主張しており、ライムが犬、マウス、サルにおいて攻撃的な抗生物質治療を生き延びることができるという証拠を示しています。さらに、ライムスピロヘータは、標準的な検査で検出されないことがあるにもかかわらず、ダニや他の宿主に再感染させることができるとしています。*3 主流の研究者からの反対の壁に失望したライム病財団は、慢性ライム病の存在を支持する結果を発表するために独自の出版物「スピロケータおよびダニ媒介病のジャーナル」を始めました。

この議論の背後には、苦しむ何千人もの患者の福祉がかかっています。彼らは、慢性ライム病の患者に無期限の治療を行うべきではないと主張するスティアー氏や他の医師を非難しています。一部の人々は、これらの医師が慢性ライム病に関する真実を隠すために共謀していると主張しており、保険会社と結託して長期治療の費用を支払いたくないからだと考えています。*4

医師に対する暴力の脅威が極端に思えるかもしれませんが、医療界にも独自の武器があります。患者は、彼らの症状を軽減すると主張する高額な治療に対する保険の適用を拒否されています。長期の抗生物質治療を処方しようとする医師は、同僚や医療ライセンス委員会からしばしば詐欺師や社会的な落ちこぼれとして扱われます。

これらの医師の中でも特に著名な人物、例えば愛されるチャールズ・レイ・ジョーンズは、慢性ライム病の治療を受けた何千人もの子供たちを支援してきましたが、ライセンス委員会から処分を受けたり、ライセンスを一時停止されたりしています。ライム病を巡る対立は、学術会議でのコーヒーを囲んだ議論や医学雑誌のページを超えて、はるかに広がっています。そして、一方は人々の命を危険にさらしています。唯一の疑問は、どちらの側なのかということです。

2017年6月14日、バージニア州アレクサンドリアで、共和党の議会代表団が慈善のための議会野球大会に向けて練習をしていました。突然、三塁側のダッグアウト近くから銃声が響きました。スティーブ・スカリース議員は腰を撃たれ、ロビイスト、議会の補佐官、スカリースを守るために配置された警官も撃たれて負傷しました。銃撃者は撃たれ、傷が原因で死亡しました。銃を撃ったのは、ジェームズ・トーマス・ホッジキンソンという左翼過激派でした。ホッジキンソンは、「地獄への道は共和党員で舗装されている」といった名前のFacebookグループに所属し、毎日のようにトランプに対する激しい批判を投稿していたと報じられています。

2か月後、白人至上主義者、ネオナチ、その他のナショナリストやナイティビストの過激派がバージニア州シャーロッツビルを行進し、松明を持って反ユダヤ的、レイシスト、トランプ支持のスローガンを叫びました。暴力が「右派を団結させよう」とする群衆と反対派の抗議者の間で勃発し、14人が負傷しました。翌日、20歳の白人至上主義者ジェームズ・アレックス・フィールズ・ジュニアが反対派の抗議者に車を突っ込ませ、19人を負傷させ、32歳の女性ヘザー・ヘイヤーを殺害しました。攻撃の1か月前、彼はFacebookページにナチスやハーケンクロイツ、トランプ支持のミームの写真を投稿していたと報じられています。

「分極化」という用語は、物理学において、いくつかの電磁波が反対の方向に伝播する様子を説明するために使われていました。19世紀半ばには、政治の専門家たちがこの比喩を取り入れ、二大政党が支配する状態における意見の不一致を説明するために用いるようになりました。

今日、民主党と共和党、労働党と保守党、左派と右派の間で、信念や道徳的立場がますます分断されているという広い意味を捉えています。分極化の特徴として、議論が進むにつれて合意から遠ざかる傾向がある、問題の両側にいる個人が挙げられます。政治的分極化の一部の事例では、意見が異なる者同士の間に道徳的な不信感が生まれ、時にはスティーブ・スカリスの銃撃事件やヘザー・ヘイヤーの殺害のように暴力に至ることもあります。

慢性ライム病のケースでは、科学的コミュニティが一連の科学的信念について分極化している状況が見られます。これは、政治的信念を巡って分極化するコミュニティと非常に似ています。ここでも、状況は暴力の脅威にまで進展しています。この状況は驚くべきものに思えるかもしれません。私たちは、政治的立場と科学的信念は重要に異なるものだと考えがちです。政治的立場は社会的価値、すなわち道徳的規範、宗教的信念、社会的および経済的正義に関する信念によって動機付けられています。

私たちは、国や生活の中で価値を促進したいと思うからこそ、政治的立場を採用します。一方、科学的信念は本来、価値から自由であるべきです（第1章の議論は別として）。理想的な科学においては、思考者は社会的な結果にかかわらず、証拠によって支持される信念を採用します。しかし、実際には科学はそのようには機能していません。科学者も人間であり、他の誰かと同様に、彼らは自分のコミュニティや友人、国を気にかけています。彼らは宗教的および政治的信念を持ち、仕事や経済的地位、専門的な地位を重視しています。そして、これらの価値観は、彼らが支持する信念や採用する理論を決定する際に影響を与えます。

とはいえ、ライム病に関する分極化のケースでは、異なる価値観が大きな役割を果たしているとは明確ではありません。議論の両側にいる医師たちは、同じ価値観を持っているようです。アレン・スティアは、この病気の研究と治療に彼の専門的な人生を捧げてきました。彼が患者に対して持つ反対意見も、同様の価値観に基づいているようです。

抗生物質の大量投与は、患者の健康と安全を心配する真摯な動機から行われているようです。一方で、チャールズ・レイ・ジョーンズのような医師たちは、実際に苦しんでいる患者を治療しようと努めており、彼ら自身の報告によれば、その成果を上げているとのことです。関係者全員が、病に苦しむ人々を守り、治療したいと考えています。

慢性ライム病のケースにおいて、両者は同じ価値観を持っているだけでなく、ほとんど同じ証拠にアクセスできています。彼らは、ライム病に関する同じ学術論文を読むことができ、実際に読むことも多いです。また、似たような症状を持つ患者を診察しています。ライム病に詳しい医師が長期的な抗生物質を処方する一方で、他の多くの医師はそうしないため、これらのグループは常に同じ治療を受けている患者を観察するわけではありませんが、全員が抗生物質治療の効果に関する無作為化比較試験の報告を読み、他の医師の臨床観察について議論することができます。それでは、なぜ状況がこれほどまでに分極化してしまったのでしょうか？この章で説明した科学的ネットワークのモデルは、科学コミュニティが証拠を集め、共有するにつれて強く合意に向かうべきであることを示唆しています。最終的には、研究者間で流れる影響やデータが、グループ全体を一方向に揺り動かすはずです。しかし、そうならないこともあるかもしれません。これまで考慮してきたモデルは、すべての科学者がすべての証拠を同じように扱うと仮定していますが、それは合理的でしょうか？すべての科学者が互いを平等に信頼しているのでしょうか？すべての研究者を同じように信頼できると考えているのでしょうか？

先に紹介したモデルに小さな変更を加えてみましょう。ネットワーク内の科学者がすべての証拠を同じように扱うのではなく、研究を共有する同僚への信頼度を考慮に入れると仮定します。これは決して不合理なことではありません。実際、科学や科学的な訓練の本質的な部分は、出会った証拠の質を評価し、仮定された証拠に反応する際に判断を行うことです。報告されたデータの出所を考慮に入れることは、確かに自然な方法です。知られた詐欺師によって書かれた研究に依存する科学者は、責任を放棄していると言えるでしょう。このような「信頼」をバラ・ゴヤルモデルにどのように組み込むことができるでしょうか？ここに一つの提案があります。

科学者たちは、自分たちと同じ結論に達した同僚に対してはより大きな信頼を寄せ、根本的に異なる信念を持つ人々にはあまり信頼を置かない傾向があると仮定しましょう。これはそれほど不合理ではありません。私たちは皆、証拠を評価するのが得意だと思いがちですから、似たような問題を調査している他の人たちが異なる結論に達している場合、その人たちはあまりうまくやっていないに違いないと考えるのは自然なことです。

したがって、私たちのモデルにおける科学者たちが新しい証拠に基づいて信念を更新する方法を変更することができます。これまで使用してきたベイズの法則は、私たちが考慮している証拠が本当に観察されたものであると確信していることを前提としています。つまり、誤りや策略、誤解はないという理想的なケースです。しかし、通常、私たちが証拠に直面する際、それは完全に確実なものではありません。そのような場合には、「ジェフリーズの法則」と呼ばれる別のルールを用いて信念を更新することができます。この法則は、プリンストン大学の哲学者ディック・ジェフリーにちなんで名付けられたもので、ある証拠に対するエージェントの不確実性の度合いを考慮に入れ、新しい信念の程度を決定します。

では、科学者たちは特定の証拠にどれくらいの不確実性を割り当てるべきでしょうか？彼らは、他の科学者の信念が自分たちの信念からどれだけ離れているかを見て、その距離によって不確実性の度合いを決定することにしましょう。例えば、アレン・スティアの最新の記事を読んだライム病に詳しい医師は、報告された結果を完全には信頼しません。また、チャールズ・レイ・ジョーンズの臨床経験を聞いた権威ある研究者は懐疑的です。このモデルの一つのバージョンでは、科学者たちはある時点で聞くのをやめ、あまりにも自分たちと意見が異なる人が出した証拠に基づいて信念を更新しないことになります。別のバージョンでは、科学者たちは意見があまりにも異なる科学者たちが腐敗しているか、あるいは他者を誤導しようとしていると考え、そのために彼らが共有した証拠は意図的に捏造されたものであると仮定するかもしれません。この場合、彼らは逆の方向に信念を更新することになります。

このモデルへの小さな変更が、結果を根本的に変えるのです。

現在、科学者たちは、正しいか間違っているかにかかわらず、合意に向かって着実に進むのではなく、異なる信念を持つ極端なグループに分かれることが頻繁にあります。各グループは、自分たちと同じ意見を持つ人々の証拠だけを信頼します。最初は、科学者の信念はネットワーク全体にランダムに分布しています。ほとんどの科学者は、他の多くの科学者が提供する証拠を聞き、それに基づいて自分の考えを更新することから始めます。しかし、時間が経つにつれて、科学者のグループは引き離されていき、最終的には互いに全く耳を傾けない相反する信念を持つ二つのグループができあがります。このようなモデルは、慢性ライム病や政治的極化のケースで見られる道徳的な怒りを捉えることはできません。しかし、比較的最小限の仮定のもとで、科学コミュニティ全体が相反する信念を持つ二つのグループに分かれることがあることは確認できます。

さらに悪いことに、このような極端な分極は安定しています。正しい信念を持つ科学者からの証拠がどれだけあっても、間違った信念を持つ人々を納得させることはできません。そして、この分極は、異なる信念を持つ人々が証拠を見ていないことに依存しているわけではありません。彼らは以前と同様にその証拠を受け取りますが、単にそれを信じないのです。

図4は、エージェントが安定した対立する信念を持つ完全に接続されたネットワークを示しています。明るいノードは行動Aを取る人々を、暗いノードは行動Bを取る人々を表しています。ノード間の接続の重みは、エージェント間の信頼を表し、他のエージェントが実際のデータを共有しているという信念に変換されます。各グループ内では、エージェントは他者のデータを信頼しますが、他のグループからのデータは信頼しません。図4は、すべての人が互いの証拠を見ている（完全なネットワーク）が、分極に向かって進んでいるネットワークを示しています。ノードの色合いは、各個人が支持する信念を表しており（Aは明るく、Bは暗い）、各接続の重みは、エージェントが互いの証拠に与える信頼の度合いを示しています。ご覧の通り、互いに全く耳を傾けない相反する信念を持つ二つのグループがあります。

異なる信念を持つ人々の間に不信感が強まるほど、最終的に誤った信念を持つ科学コミュニティの割合が増えることがわかります。これは、より良い理論に懐疑的な人々が、実際にその理論を検証する人々を信頼しないために起こります。この懐疑心が高まると、より正確な信念を示す新しい研究に基づいて信念を更新できない人々が増えていきます。このような偏りは、対立するグループ間のコミュニケーションが時間とともに閉ざされていく一つの方法と考えることができます。誤った信念を持つグループは、より良い結果を示す研究に対して鈍感になってしまいます。

これらの結果は、科学者同士が互いに不信感を抱く可能性についての一つの考え方から導かれますが、他にも可能性はあります。モデルのより穏やかなバージョンでは、科学者たちは全ての意見を聞き入れますが、自分と異なる意見の証拠を完全に無視するのではなく、軽視するという仮定があります。この仮定を持つモデルでは、すべての科学コミュニティが最終的には合意に達することがわかりますが、相互の不信感がそのプロセスを劇的に遅らせます。科学者たちが互いに十分に耳を傾けている場合でも、異なる信念を持つ者同士の不信感は、一時的な偏りを生むことがあります。つまり、一部の科学者が劣った理論を好み、より良い理論を支持する人々の証拠をほとんど無視する長い期間が生じるのです。

この一時的な偏りの驚くべき側面の一つは、初めは似たような立場を持っていた人々が、最終的には議論の対立する側に立つことがあるという点です。例えば、サリーとジョーという科学者がいるとしましょう。サリーは新しい理論に対してジョーよりも少し懐疑的です。ジョーがその理論を支持する証拠を集めると、彼の信念は高まります。サリーの信念も上がりますが、ジョーほどには上がりません。なぜなら、彼女はジョーのデータを彼ほど信頼していないからです。これにより、二人の信念は以前よりも高くなりますが、同時に距離も広がります。さらにジョーが証拠を集めると、彼の信念は再び高まります。サリーもより納得しますが、彼女とジョーの距離がさらに大きくなっているため、彼女の信念の変化は最初の時よりも少なくなります。

最終的に、サリーはジョーの理論がより優れていると結論づけるかもしれませんが、そこに至るまでにはかなりの時間がかかるでしょう。あるいは、ジョーがサリーよりもはるかに早く確信に近づくことで、彼女を置き去りにしてしまうかもしれません。サリーの視点から見ると、ジョーは迷宮に迷い込んでいるように見え、彼女は彼が信頼するにはあまりにも過激だと結論づけるでしょう。もちろん、一時的な分極化でさえも、害を及ぼす結果をもたらす可能性があります。例えば、ライム病のようなケースでは、誤った信念に基づく深刻な結果が伴います。抗生物質の過剰投与や、危険な慢性感染症を無視することがその例です。科学的合意の形成が著しく遅れることは、病気を抱える人々の生活に深刻な影響を与える可能性があります。

分極化は多くの分野で研究されています。個人の心理学における分極化の説明を探る文献も豊富です。しかし、この分野の研究者たちは、二人の当事者が同じ証拠を見た場合、もし彼らが同じように信念を変えないなら、少なくとも一方は非合理的であるに違いないと考えがちです。結局のところ、証拠は特定の信念を支持するか、そうでないかのどちらかです。例えば、多くの心理学者は、人々が現在の信念に合致する証拠だけを探し、注意を払う傾向があることを示しています。これを「確認バイアス」と呼び、現在の信念を確認する傾向を持つ推論の一種です。分極化に関する典型的な心理学実験では、参加者に対してある問題に賛成と反対の二つの証拠や議論を提示し、彼らの信念がどのように変わるかを観察します。政治学者のチャールズ・テイバー、ダモン・カン、シモナ・ククソバは、例えば、マリファナの合法化から選挙人団に至るまでの問題に関する対立する証拠を被験者に提示しました。彼らは、これらの問題について強い信念を持っていた人々が、与えられた証拠に関係なく、研究中にますますその信念を固めていくことを発見しました。提案された説明は、被験者がすでに持っている見解を支持する証拠にのみ注意を払ったというものです。この心理的効果が発生しないとは言っていません。それは実際に起こるようであり、非常に可能性が高いのです。

「PC用Kindle 4 - 誤情報の時代：虚偽の信念が広がる理由（英語版）」より

現実世界における分極化の要因についてですが、私たちが説明したジェフリーの法則に基づく分極化モデルは、心理的バイアスが分極化を引き起こすために必ずしも必要ではないことを強く示唆しています。私たちのエージェントは、確認バイアスに全く関与せず、信頼できる情報源からの証拠に基づいて情報を更新します。たとえ人々が仲間からの証拠を受け取った際に非常に合理的に行動しても、最終的には意見が対立することがあります。これらのモデルは、政治的分極化や科学的グループの分極化についての理解を深める手助けとなります。

時には、分極化は道徳的または社会的な立場に関して起こります。たとえば、妊娠中絶の議論は非常に論争的であり、ほとんどの議論は事実に関するものではなく、望まれない胎児を中絶することが許されないほど間違っているかどうかに関するものです。しかし、他のケースでは、科学的事実に関する問題で政治的分極化が生じることがあります。気候変動に関しては、議論は主に道徳的な正しさや経済政策の正当性についてではなく、人為的な炭素排出が気象パターンの変化に実際に寄与しているかどうかに関するものです。これは道徳や価値観の問題ではなく、温室効果ガスが気候に影響を与えているのか、そうでないのかという問題です。

もちろん、産業界の利害関係者が気候変動の原因に関する科学的合意を曖昧にし、誤情報を広めて論争を生み出していることに疑いの余地はありません。しかし、私たちが議論してきたモデルは、産業の干渉がなくても、科学的信念を選択しようとする人々のコミュニティがこの種の対立に至る可能性があることを示唆しています。重要なのは、私たちが選択の結果を予測するための成功した科学理論を発展させたいのであれば、異なる信念を持つ人々を不信に思うことは有害であるということです。それは、対立する側からの信頼できる証拠に耳を傾けない分極化した陣営を生み出す可能性があります。

一般的に言えば、コミュニティの中で真実の信念に到達する人々の割合は最終的に少なくなることを意味します。

もちろん、逆のことも起こり得ます。時には、過度の信頼があなたを誤った方向に導くことがあります。特に、コミュニティ内のエージェントが特定の見解をあなたに納得させようと強いインセンティブを持っている場合です。これまで考察してきたモデルは、すべての科学者が自分の結果を正確に報告することを前提としています。このような場合、あなたが異なる意見を持つ人々の結果を軽視することはほとんど意味がありません。しかし、これは普遍的なケースではありません。次の章では、延世大学の哲学者ベネット・ホルマンとオーストラリア国立大学の哲学者兼政治学者ジャスティン・ブルーナーのモデリング研究を基に、産業が科学に影響を与えようとする際に、他者の証拠を軽視することがいかに重要であるかを議論します。最終的には、他者からの証拠を評価する際には、それを提示する人々の信念ではなく、その証拠自体の価値に基づいて判断するのが最良であることがわかるでしょう。

1846年、ハンガリーの医師イグナーツ・ゼンメルワイスは、ウィーン総合病院の初めての産科クリニックに就任しました。彼はすぐに気になるパターンに気づきました。この病院の2つのクリニックは、貧しい女性に対して学生（ゼンメルワイスが配属されたクリニックでは医師、もう一方では助産師）による治療を受け入れるならば、無料でケアを提供していました。しかし、最初のクリニックでは状況が良くありませんでした。産褥熱、いわゆる「子供を産んだ後の熱」は蔓延しており、平均して患者の10％が死亡していました。一方、知識が少ないとされる助産師がいる第二のクリニックでは、患者の死亡率はわずか3～4％でした。さらに驚くべきことに、病院に向かう途中で出産した女性たちの死亡率は、医師の訓練を受けた者たちの助けを受けた女性たちよりもはるかに低かったのです。ゼンメルワイスの最初の年、第一クリニックの評判は非常に悪く、患者たちは膝をついて第二クリニックへの転院を懇願しました。彼らの記録に失望し、患者たちが耐えている恐ろしい死に衝撃を受けたゼンメルワイスは、クリニックの高い熱発生率の原因を探し始めました。1847年3月、彼は突破口を見出しました。ある同僚が解剖中に小さな accidental cut を受けた後、産褥熱に非常に似た症状で亡くなったのです。

ゼンメルワイスは、この出来事を、第一診療所の産科医が病死した遺体の解剖を行った直後に患者に接触していた事実と結びつけました。彼は、産褥熱は「死体の粒子」が学生医師の手を介して移動することによって引き起こされると結論づけました。彼が塩素を含む溶液での定期的な手洗いを義務付け始めると、診療所の死亡率は急激に低下しました。1847年の終わりに、ゼンメルワイスと彼の学生たちは、いくつかの著名な医学雑誌に彼らの研究結果を発表しました。彼は、自身の革新が医療実践を革命的に変え、無数の女性の命を救うと信じていました。しかし、実際には、彼の同僚医師たち—主に上流階級の紳士たち—は、自分たちの手が不潔であるという暗示に対して不快感を抱き、彼の「死体の粒子」という考えの科学的根拠を疑問視しました。まもなくして、ゼンメルワイスはウィーン総合病院を解雇されました。彼はブダペストの小さな病院に移り、そこでの彼の方法により産褥熱の死亡率は1%未満にまで下がりました。しかし、彼の残りの18年間、ゼンメルワイスの革命的な技術は評価されず、彼は医療界に対するフラストレーションを募らせ、最終的には神経衰弱に陥りました。ウィーンの精神病院で警備員に暴力を振るわれ、42歳で血中毒により亡くなりました。

ゼンメルワイスは、解剖と産褥熱の関連性について正しかったのです。彼がこの基盤に基づいて下した決定は、重要な結果をもたらしました。彼は数千の乳児と女性の命を救いました。しかし、彼が自分の知識を他者に納得させることができていれば、さらに多くの命を救うことができたかもしれません。この場合、彼は他の科学者たちに自分の信念を伝え、彼らが望む限りの証拠を提供しましたが、彼の考えは依然として拒絶され、その結果は大きな代償を伴いました。紳士たちが接触を通じて病気を伝染させることはないという根拠のない信念は残り続けました。ゼンメルワイスのケースの不思議な点は、証拠が非常に強力であったことです。この点において、彼のケースは「野菜の子羊」や、ライム病、水銀中毒、あるいは他の比較的難しいケースとは異なります。

世界からのメッセージは明確だった：手洗いは産褥熱による死亡を大幅に減少させる。しかし、何が間違ったのか？

2017年1月21日、ドナルド・トランプがアメリカ合衆国の第45代大統領に就任した。数時間後、彼の新しい政権は奇妙なメディアの嵐に巻き込まれた。その話題は政策や外交とは無関係で、トランプの就任式の観衆の規模についての騒動だった。

トランプ政権の広報官であるショーン・スパイサーは、初めてのホワイトハウスの記者会見で「トランプは今までの就任式で最大の観衆を得た」と宣言した。しかし、ワシントンD.C.の地下鉄の利用者数や上空からの写真に基づく観衆の推定は、スパイサーの主張が虚偽であることを明確に示していた。

いくつかのメディアは、トランプの就任式の観衆が前の2回のバラク・オバマの就任式と比べて物足りなかったと報じた。さらに、翌日に行われたトランプ政権に抗議する大規模な女性の行進と比べても、観衆は少なかった。ホワイトハウスが基本的な事実を否定することが、すぐにニュースとなった。

政治学者のブライアン・シャフナーと世論調査員のサマンサ・ルクスは、この事件についての研究を行った。彼らは1400人近くのアメリカ人成人に、2つの就任式の観衆の写真を並べて見せ、半数の参加者にどちらがトランプの就任式で、どちらがオバマのものかを尋ねた。驚くことではないが、トランプ支持者の方がヒラリー・クリントン支持者よりも、より混雑している写真をトランプの就任式のものと誤って特定した。

研究の残りの半数の参加者には、より簡単と思われる質問がされ、どちらの写真により多くの人が写っているかを尋ねられた。その結果、驚くべきことに、トランプ支持者の15％が明らかに少ない観衆の写真を選んだ。彼らは目の前の明白な証拠を無視し、スパイサーの意見に同意した。シャフナーとルクスは、これらの結果を、回答者が自分の候補者への強い支持を示したいと願っている証拠として解釈した。

別の説明として、「同調バイアス」と呼ばれる心理学の広範な文献に基づく現象があります。1951年、スワースモア大学の心理学者ソロモン・アッシュは、今や古典的な実験を考案しました。彼は8人の参加者のグループに、左側に1本の線、右側に異なる長さの3本の線が描かれたカードを見せました（図5）。彼らの課題は、右側のどの線が左側の線と同じ長さであるかを特定することでした。参加者たちには知らされていませんでしたが、グループの7人は共謀者で、全員が同じ間違った線を選ぶよう指示されていました。例えば、図5のように、彼らは全員が間違って「c」を選ぶことがありました。最後に答えを求められた参加者は、他のグループのメンバーと同調して「c」を選ぶか、正しい線「a」を選ぶかの選択を迫られました。研究参加者の3分の1以上が、他のグループの意見に同意しました。彼らは、自分の感覚の証拠に反して、グループの他の人々の行動に従うことを選んだのです。

図5は、ソロモン・アッシュの同調実験の提示内容を示しています。左側の線の長さに一致する「a」があるにもかかわらず、共謀者たちは全員が同じ間違った線（「b」または「c」）を選びました。参加者たちは、同調するか正しい線（「a」）を選ぶかを決めなければなりませんでした。同調は状況によって異なるようですが、時には後者が合理的な戦略であることもあります。誰も完璧ではないため、多くの人が独立して同意しているように見える場合、異なる意見に直面したときに自分を疑うことは良い考えかもしれません。実際、18世紀のフランスの数学者マルキ・ド・コンデュルセによる古典的な数学定理は、非常に近いケースを扱っています。ある人々のグループが、2つの可能な答えのうち1つだけが正しい何かについて判断しようとしているとしましょう。もし各人が個別に正しい答えを得る可能性が高い場合、グループ全体が正しい答えを得る確率は高まります。

投票によって正しい答えを得る確率は、投票者が増えるにつれて高まります。これは、自分の誤りを受け入れ、大多数の意見に従うことが実際に良いアイデアである場合があることを示唆しています。多くの誤りを持つ声を集約することで、正しい答えを得る可能性が高まるのです。

「クイズ$1,000,000を獲得したい！」というゲームショーを見たことがある人は、この効果に馴染みがあるでしょう。観客に質問の答えを尋ねる参加者は、正しいフィードバックを91％の確率で得ることができ、1人の友人に尋ねた場合の65％と比べて高い確率です。しかし、他者の判断を信頼することは、これらの判断が互いに独立していない場合には、必ずしも上手くいくわけではありません。

例えば、UCLAの経済学者スシル・ビクチャンダニ、デイビッド・ハーシュライファー、イーヴォ・ウェルチは、「情報カスケード」と呼ばれる現象を説明しています。これは、強い反証が存在しても、信念が集団内で広がることを指します。このような場合、誤った信念が雪だるま式に広がることがあります。人々の判断が、彼らの社会環境にいる他者の影響を受けるからです。

この仕組みを理解するために、各メンバーが私的な情報を持っているグループを想像してみてください。たとえば、各人が次の1か月間にどちらの株がより良いパフォーマンスを示すかについて、通常は信頼できるが時には間違っている情報を持っているとします。50人のグループの中で、48人が日産が最も良いパフォーマンスを示すという秘密の情報を持ち、2人だけがゼネラルモーターズの株が日産を上回るという情報を持っているとしましょう。

その2人が公にGM株を購入したとします。次の投資家はこれを見て、合理的に考え、最初の2人がGMを好む私的な理由を持っていると推測します。この理由から、その投資家は自分の持っている日産に関する私的な証拠が、GMに対する全体的な証拠ほど強くないと結論づけるかもしれません。そこで、その投資家はGMを購入することに決めます。今度は、他の投資家が3人が私的な情報に基づいてGM株を購入したのを見て、同様に行動する可能性が高まります。

これは、彼らにとってGMが日産よりも好ましいと考えるさらに強い理由を与えることになります。彼ら自身の私的な情報とは逆に、すぐにみんながGMを買うようになりますが、ほとんど誰も独立してそれが良いアイデアだとは思わないでしょう。他のモデルと同様に、情報カスケードのモデルは、個人が合理的に行動し、利用可能な証拠と他者の行動に基づく信念に基づいて最善の判断を下す場合でも、罠にはまる可能性があることを示しています。ほとんどのメンバーが個別に正しい判断を下す傾向があるグループでも、最終的には間違った判断に集団で同意してしまうことがあります。情報カスケードは同調バイアスとは異なります。株式取引のケースにおける個人は、グループに合わせようとしているわけではありません。彼らは、自分たちに利用可能な証拠に基づいて合理的な決定を下しており、それには自分自身の私的情報と他者の行動が含まれています。

私たちは、情報カスケードがトランプ支持者やセメルワイスを無視した医師たちの行動を説明するとは考えていません。重要なのは、他者が私たちが持っていない情報を持っているかもしれないため、同調することが一般的に良いことに思える場合でも、私たちの行動や信念の表明が社会的影響を受けると、グループ全体が非常に非合理的な行動をとる可能性があるということです。一方、同調バイアスは、私たちの合理的な判断とは完全に別に、目立つことを好まないという事実を反映しています。それは私たちを不快にさせます。アッシュの実験の記録は示唆に富んでいます。流れに逆らい、自分の判断を信じた被験者でさえ、その行動に不快感を示しました。アッシュは、トレンドに逆らって正しい線を選んだ被験者を次のように描写しています。「彼の後の回答はささやくような声で、自己卑下の笑みを伴っていました。ある時、彼は恥ずかしそうに笑い、隣の人に向かって爆発的にささやきました。「私はいつも反対するんだ、くそっ！」」

同調バイアスは、セメルワイスが手洗いが産褥熱を防ぐことができると示したときに何が起こったのかを説明するのに役立ちます。彼の同僚たちは、誰一人として手を洗っておらず、紳士の手が病気を伝染させるという考えが馬鹿げていると全員が同意していたため、彼を無視しました。

仲間に支えられ、彼らは反対の証拠を受け入れようとはしなかった。たとえその証拠が強力で即座に明らかであったとしても。同様に、トランプ支持者が比較的空の写真に多くの人が写っていると主張するのは、彼らが関わる人々と同意したいという欲求から来ているのかもしれない。バラとゴヤールが開発したモデルでは、社会的なつながりが科学者のコミュニティがどのように信念を形成するかに驚くべき影響を与えることが示されている。しかし、これまでに議論してきた変動は、各個人が真実を重視している、あるいは少なくとも最善の行動を取ろうとしているという前提に基づいている。コンフォーミティバイアスに関する研究は、私たちが最善の行動だけでなく、他者と同意することにも関心を持っていることを示唆している。少なくとも一部の状況では、私たちは他の人々と同意することを重視しているようだ。実際、場合によっては、私たちは周囲の人々に合わせるために自分の信念や感覚の証拠を否定することさえあるかもしれない。このようなコンフォーミティバイアスが科学者のコミュニティにどのように影響を与えるかを考えてみよう。基本的なバラ・ゴヤールモデルから始めると、モデル内の科学者たちは、自分自身の行動や他者の行動の結果に基づいて信念を更新する。これまでと同様に。しかし、今度は、モデル内の科学者たちが行動を選択する際、周囲の人々の行動に基づいて部分的に決定することを仮定してみよう。彼らは他者と同意することで何らかの利益を得ており、それがどの行動を取るかの決定に影響を与えていると考えられるが、同時に自分自身と近隣の観察に基づいて世界に対する信念も更新している。さまざまなシナリオを想像することができる。ある場合や特定の科学者にとっては、コンフォーミティが非常に重要であり、彼らの選択に大きな影響を与えることもある。他のケースでは、彼らはより良い行動の利益やより良い薬を処方することにもっと関心を持ち、同僚の行動にはあまり注意を払わないかもしれない。極端な場合、科学者が他者の行動に自分の行動を合わせることだけを重視する場合、あるいは少なくとも、他者に合わせることから得られる利益がより良い行動を取ることから得られる利益よりもはるかに大きい場合に何が起こるかを考えてみよう。このような条件下では、モデルは科学者のグループが同じように結論に達する可能性があると予測している。

「誤情報の時代：誤った信念が広がる理由」（英語版）では、科学者たちが真実に到達する能力が、社会的なつながりによって大きく影響を受けることが示されています。例えば、産褥熱を調査しているグループが手洗いの重要性を認識する可能性は、そうでない場合と同じくらいあります。彼らが互いに同調することだけを重視するなら、外部からのフィードバックは全く意味を持たないのです。この極端なケースでは、社会的なつながりが科学者たちの真実に到達する能力を著しく抑制します。さらに、一度彼らが合意した行動を見つけると、新たな証拠が出てきてもその行動を続ける傾向があります。たとえ他の方法がより良いと信じるようになっても、コンセンサスに逆らうことを恐れて行動を変えようとはしません。

一方で、仲間の目を気にしない人々は、同調する欲求に縛られず、新しい有望な理論を試すことができます。もちろん、科学者たちがただ同調することだけを重視しているという前提は強すぎます。アッシュの実験が示すように、人々は同調を気にする一方で、真実にも関心を持っています。では、これら二つの要素を組み合わせたモデルはどうでしょうか？部分的に真実を追求する科学者たちにとっても、同調は真実を見極める能力を低下させます。科学者たちが同調を重視すればするほど、正しい信念を持ちながらもそれに基づいて行動しないケースが増えます。つまり、セメルヴェイスの仲間の中には、手洗いが効果的だと信じていても、非難を恐れて実践しない人がいた可能性があるのです。

知識を共有するネットワークにおいては、特に問題が深刻です。手洗いを試さなかった医師は、友人や同僚全員からその効果に関する証拠を奪ってしまいます。同調は良い新しいアイデアの広がりを妨げます。もちろん、同調は悪いアイデアの広がりを防ぐこともありますが、平均的には同調傾向が強いグループほど、悪い行動を取ることが多くなります。彼らが最良の行動を取ることだけを重視する場合、ほとんどの場合、真実に近づくことができます。つまり、手洗いがより良い方法であることを見極めるのが得意なのです。しかし、同調が強まると、彼らの判断力は鈍ってしまいます。

Xl #48240  
Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)  
4th RR BH Yow AN  
S495) <ms CS | wey) Aa = | & N  

私たちが科学者たちが理論に完全にランダムに到達するケースに近づくにつれ、彼らはその理論間の報酬の違いを気にしなくなります。社会的な圧力が、世界からの圧力を圧倒してしまうのです。モデルに同調を加えることで、どの理論を採用するかについての安定した持続的な意見の不一致が生まれる可能性も生じます。バラ・ゴヤルの基本モデルでは、科学者たちは常に合意に達しますが、正しいかどうかは別としてです。しかし、今、科学者たちが小さくて密接に結びついたグループに集まっているシナリオを想像してみてください。これらのグループは互いに弱くつながっています。このような配置はそれほど珍しいものではありません。科学哲学者のマイク・シュナイダーは、多くの場合、科学者たちが自国の人々や人種・民族グループの一員と密接に結びついていることを指摘しています。彼は、科学者たちが同調を気にする場合、こうしたグループが新しいアイデアの広がりに対する障壁となることを示しています。  

私たちの結果もこれを支持しています。科学者たちのクリークが存在する場合、あるグループが悪い行動（手を洗わない）を取り、別のグループが良い行動（手を洗う）を取るシナリオが見られますが、グループ同士が弱くつながっているため、各グループ内の同調が共通の合意に達することを妨げます。そのような場合、手を洗わないグループの中には真実を知っているメンバーがいます—他のグループから情報を得ている人たちですが、彼らはその情報に基づいて行動せず、したがって仲間に広めることもありません。図6はこの状況を示しています。一方のグループは行動Bを取り、もう一方は行動Aを取ります。Aグループの中には、Bがより良いと考える人もいますが、Bグループに接続されている人たちを含め、彼らの行動は最もつながりのあるグループに同調したいという欲求によって固定されています。  

図6. 同調によって安定した対立する信念を持つ科学者たちのクリーク状の配置。  
明るいノードは行動Aを取る個人を、暗いノードは行動Bを取る個人を表しています。Aグループ内には、Bがより良いと信じる正確な信念を持つ個人もいます。しかし、彼らは自分たちのクリークの行動に同調するため、この正確な信念はそのクリーク内の同僚に伝わりません。

1319/5229 F
ae El #3220 Kindle for PC 4 - 誤情報時代：誤った信念が広がる理由（英語版）
Trib RR BH Yb AN
IY <e CO | wm. v) Aa = | Oe
図7. すべてのエージェントが正しい信念を持っているネットワークだが、一部のクリークが同調バイアスのために悪い行動をとる。個々の人々は他の同僚からBの成功に関する情報を得ているが、グループに同調したいという欲求を克服するには不十分である。明るいノードは行動Aを選択する個人を、暗いノードは行動Bを選択する個人を表している。全員が真実の信念を持っているネットワークも存在する—信念において実際の合意があるにもかかわらず、大部分の科学者が同調的傾向の結果として悪い行動をとることもある。?? 部分的なネットワークを考えてみよう。
26% 98/253 + {iHENo. 1323/5229
oO
er EE #42840 Kindle for PC 4 - 誤情報時代：誤った信念が広がる理由（英語版）
Trib RR BH Yh ANF
F455) <m
~
= BH. Vv Aa ms ow
fa
N
図7に示されているように、中央のクラスターにいる人々は、周囲から手洗いの利点に関する良い証拠を得ているにもかかわらず、互いに密接に結びついているため、実践を変えることに消極的である。明るいノードはすべて同調のために行動Aを選択しているが、ネットワークの他の部分とのつながりがBの方が良いと信じさせている。したがって、同調したいという欲求が科学者や他の人々の知識を集める能力に深刻な影響を与えることがわかる。さらに悪いことに、哲学者アイディン・モフセニと経済学者コール・ウィリアムズが主張するように、同調について知っていることが科学者同士の信頼を損なう可能性もある。もし医師が自分の手に死体の粒子が付着していないと完全に確信していると言った場合、それが良い証拠に基づいているのか、単に群衆に従っているのかを知るのは難しい。これまで、私たちは「同調したいという欲求」をこれらのモデルの主要な変数として考えてきた。しかし、実際には、同調したいという欲求と成功した行動の利益とのトレードオフを見ていくべきである。ある状況では、世界が非常に強く反発するため、同調が魅力的であっても無視するのがほぼ不可能な場合がある。たとえば、私たちのモデルにおいて、行動Bが行動Aよりもはるかに優れていると仮定しよう。Bはほぼ常に報酬をもたらし、Aは稀にしか報酬をもたらさない。

このようなケースでは、モデル内のエージェントが自らの同調欲求を無視し、代わりに利用可能な最良の証拠に基づいて選択を行う可能性が高いことがわかります。これが、なぜ「野菜の羊」が長い間存在し続けたのかを説明する手助けになります。間違ったことを信じることにはほとんどコストがなかったため、同調したいという欲求が虚偽の信念を持つことのコストを上回ることができたのです。中世の賢者たちは、野菜の羊がどれほど美味しいかを詩的に語ることで、仲間の知識人たちと意見を一致させる社会的利益を得ていました。そして、世界は彼らを罰することはありませんでした。

セメルヴァイスのケースは異なります。セメルヴァイスの手洗いの実践が劇的な現実の結果をもたらしたことに疑いの余地はありませんが、それにもかかわらず医師たちが新しい有望な実践を試みるのではなく、同調したことは驚くべきことのように思えるかもしれません。しかし、医師たち自身が死の危険にさらされていたわけではありません。彼らの友人や親族、または彼らの社会的なサークルのメンバーも同様で、クリニックの患者たちは一般的に貧しい人々でした。もし彼らの選択の結果がより個人的なものであったなら、手が不潔であることを認めることによる評判のリスクを無視し、セメルヴァイスの言うことに耳を傾けたかもしれません。同様に、もしトランプ支持者に対して、より多くの人が写っている写真を選ぶために千ドルを提供したら、彼らの中で正しい選択をする人が増えるかもしれません（関連して、社会心理学者たちは、アッシュの実験で正しい答えを出した人に金銭的インセンティブを提供すると、同調が少なくなることを示しています）。

信念が本当に重要な場合と、より抽象的な場合の違いは、現代の虚偽の信念のいくつかを理解する手助けにもなります。信念が行動にとってそれほど重要でない場合、それらは一種の社会的信号の役割を果たすことがあります。それは、人々にどのグループに属しているかを示し、そのグループのメンバーシップから得られる可能性のある利益を得る手助けをします。たとえば、今日の世界に存在する生物種が自然選択によって進化したという考えを支持する膨大な証拠があります。これは現代生物学の礎ですが、進化を受け入れるかどうかは、利用可能な証拠に関係なく、ほとんどの人にとって実際的な結果をもたらすことはありません。

Kl 83/0 Kindle for PC  
4 - 誤情報の時代：虚偽の信念が広がる理由（英語版）  

私たちの中には、ある見解を支持することが社会的に大きな利益をもたらす場合がある一方で、他の見解を支持することも同様に重要です。これは、私たちが誰に従いたいかによって変わります。同様に、食べ物や健康に関する広く信じられている疑似科学的な信念もいくつかあり、それを信じる人々にとってはあまり悪影響がないことが多いです。たとえば、放射線を照射された食品が危険であるという信念、遺伝子組み換え食品への恐れ、有機食品が特別な健康効果を持つという信念（農薬による汚染がないことを除いて）などが挙げられます。これらのケースでは、放射線を照射された食品や遺伝子組み換え食品、非有機食品を避ける消費者には不便やコストが生じることがありますが、それは比較的小さいものです。同時に、これらの食習慣は新しい時代のエリートや左派の社会グループへの所属を示すシグナルとなり、社会的な利益をもたらすこともあります。これらのコミュニティは、最近の「グラウンディング」という流行のような奇抜なアイデアを推進することもあります。これは、地面に触れることで体と地球の間で電子の移動が行われ、健康に良い影響を与えるという主張に基づいています。  

再び言いますが、地面に足を置くことで人々が傷つくことはありません（実際、裸足で歩くことはしばしばリラックスできて心地よいものです）。したがって、このような信念は社会的な影響によって容易に安定化されるべきです。虚偽の信念を社会的なシグナルとして考えることは、図6のような閉じたネットワークがあるときに最も理にかなっています。二つのグループが異なる信念を持つと、それらの信念はグループの所属を示すシグナルとなります。進化論を信じないと言う人は、彼の信念だけでなく、彼がどこから来たのか、誰と同一視しているのかについても何かを伝えています。結果として生じる状況は、極端な対立のように見えることがあります。異なる行動をとる二つ（またはそれ以上）のグループが存在し、互いに耳を傾けることはありません。どちらの場合も、グループ間には社会的な影響がありません。しかし、驚くべきことに、その理由は非常に異なります。私たちの対立モデルでは、社会的な影響が失敗するのは、個人同士が互いに信頼を失うからです。一方、同調モデルでは、私たちは異なるメカニズムを目にします。

Kindle for PC
4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)

実際のところ、結果としては極端な意見の対立と同じように見えるが、誰もが他の人に合わせようとする一方で、あまり交流しない人もいる。図4と図6を振り返ると、これら二つの結果がどれほど異なるかが明らかになる。極端な意見の対立のような行動が非常に異なる理由から生じることがあるため、介入策を評価するのが特に難しい。コンフォーミティのケースでは、人々の社会的ネットワークを乱し、異なるグループとつなげることで、誤った信念を持つ人々を rehabilitate（立ち直らせる）する助けになるはずだ。しかし、もし人々が不信感から極端な意見に偏る場合、そのような介入は一般的に失敗し、逆に極端な意見を悪化させる可能性がある。現実の世界では、両方の効果が働いているようで、その場合、介入策は誤った信念の両方の説明に敏感である必要がある。この章で見てきたように、社会的関与が私たちの信念や行動に与える影響は多様で複雑である。私たちの社会的ネットワークは、新しい証拠や信念の最良の源である。しかし、それは同時に私たちを否定的な社会的影響にさらすことにもなる。友人や同僚は、魚を食べることの健康リスクや潰瘍の最良の治療法について学ぶ手助けをしてくれるが、同時に「ベジタブルラム」のような誤った情報にも影響されやすくなる。私たちが他者の信念を利用して彼らが共有する証拠の判断を行うとき、重要な情報を提供してくれる人々を無視することを学んでしまうことがある。社会的ネットワークの中で他者に合わせようとするとき、私たちは時に最良の判断を無視して意思決定を行い、その結果、真実の信念の広がりを妨げてしまう。しかし、事態はさらに悪化しようとしている。これまでのところ、私たちはモデル内のすべての科学者が真実の結果を共有し、真実を確立することを目的としていると仮定してきた。しかし、科学の歴史—そして政治の歴史—は、これはしばしば誤った仮定であることを明らかにしている。世の中には、公共の意見に依存する強力な勢力が存在し、私たちが今説明した社会的メカニズムを操作して自らのアジェンダを進めている。

申し訳ありませんが、提供されたテキストは意味を持たない文字列のようです。もう少し具体的な内容や文を提供していただければ、翻訳のお手伝いができます。どうぞよろしくお願いします。

1952年12月、Reader’s Digestは「癌は箱から」というタイトルの記事を発表し、タバコの喫煙と肺癌との関連性が高まっている証拠を示しました。この文章は遠慮なく、1920年から1948年の間に肺癌による死亡者数が10倍に増加し、45歳以上の喫煙者の肺癌リスクが喫煙本数に比例して増加することを主張しました。記事は、肺癌が間もなく最も一般的な人間の癌になるだろうと推測した医療研究者の言葉を引用しました。これは、アメリカや他の地域での喫煙率の「驚異的な増加」によるものでした。おそらく最も重要なのは、少なくともタバコ業界の視点から見れば、この記事は肺癌の増加を「予防可能」とし、公共が喫煙の危険性について警告される必要があると示唆したことです。この文章はタバコ業界にとっての広報上の終末シナリオでした。当時、Reader’s Digestは数千万部の発行部数を誇り、世界で最も広く読まれている出版物の一つでした。劇的な見出し、明確で簡潔な文体、そして科学的証拠に対する明確な評価は、どんな公衆衛生キャンペーンよりも大きな影響を与えました。記事は、喫煙者が自らを徐々に殺しているという不確実性を残しませんでした。すぐにさらなる証拠が集まりました。1953年の夏、スローン・ケタリング記念病院の医師たちが、タバコのタールを塗ったマウスを使った研究を完了しました。マウスは確実に悪性腫瘍を発症しました。彼らの論文は、喫煙の既知の副産物と致命的な癌との間に直接的かつ生々しい因果関係を示し、以前の研究が示していたのは統計的な関係だけでした。この研究はメディアの熱狂を引き起こし、全国および国際的な新聞や雑誌に記事が掲載されました。（タイム誌は「疑う余地なし」というタイトルでこの話を掲載しました。）その12月には、さらに4つの研究がニューヨークでの研究会議で発表され、ある医師はニューヨーク・タイムズに「男性の…」と語りました。

アメリカ合衆国の人口は、過去の喫煙増加が続けば、今後50年以内に肺癌によって壊滅的な影響を受けるだろうという警告が発表されました。この悪い報道は即座に影響を及ぼしました。12月の研究会議について報じた翌日、タイムズ紙はタバコ株の大規模な売却が最近の報道に起因していると主張する記事を掲載しました。タバコ業界は、リーダーズダイジェストの記事が出た直後から、連続して3四半期にわたりタバコの購入が減少しました。この減少は、19四半期にわたる記録的な売上の後に起こったものでした。1954年、国立衛生研究所の統計学者ハロルド・ドーンは、「2年前、肺癌は医学雑誌のページを除けばほとんど知られていない病気でした。今日では、世界中で一般的な話題となっています」と書いています。

タバコ業界はパニックに陥りました。生存の危機を認識した主要なアメリカの企業は、製品が顧客を殺しているという認識に対抗するための広報キャンペーンを立ち上げるために団結しました。市場の売却があった2週間の間に、タバコの幹部たちはニューヨークのプラザホテルで著名な広報会社ヒル・アンド・ノウルトンの共同創設者ジョン・ヒルと一連の会議を開き、科学的な事実や結果に対抗するメディア戦略を練りました。オレスケスとコンウェイが『疑念の商人たち』で記録しているように、この革命的な新戦略の核心は「タバコ戦略」と呼ばれるもので、科学に対抗する最良の方法はさらなる科学であるというものでした。

もちろん、喫煙は肺癌を引き起こし、口腔や喉の癌、心臓病、肺気腫、その他の深刻な病気を引き起こします。喫煙が安全であることを示す強力で説得力のある証拠を合法的な科学的方法で生成することは不可能です。しかし、それが目的ではありませんでした。目的は不確実性の外観を作り出すこと、つまり研究を見つけ、資金を提供し、喫煙の危険性を曖昧にする研究を促進することでした。

Xl #2840 Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)

既存の証拠を弱め、政策立案者やタバコ使用者に科学的合意を無視するための十分な隠れ蓑を与えた。あるタバコ会社の幹部が15年後に無署名のメモで述べたように、「疑念は我々の製品であり、これは公共の心に存在する『事実の集合体』と競争する最良の手段である。」新しい戦略の中心には、タバコ産業研究委員会（TIRC）があり、表向きはタバコの健康影響に関する研究を支援・促進するために設立された。しかし、実際にはそれはプロパガンダの機関だった。その最初の行動の一つは、1954年1月に「喫煙者への率直な声明」という文書を作成することだった。この「率直な声明」は、14のタバコ会社の社長や会長の署名入りで、アメリカ全土の400の新聞に広告として掲載された。タバコが安全でないという一般的な主張に応え、タバコのタールがマウスに癌を引き起こすというスローン・ケタリング報告についても明示的にコメントした。幹部たちは、この広く報道された研究が「癌研究の分野では決定的とは見なされていない」と主張し、「タバコ喫煙が肺癌の原因の一つであるという証拠はない」と述べた。しかし、彼らはまた、「人々の健康に対する関心を基本的な責任として受け入れる」とも主張した。新しい委員会は「タバコ使用と健康に関するあらゆる側面の研究努力を支援する」ことを目的としていた。

TIRCはタバコの健康影響に関する研究を支援したが、その活動は非常に誤解を招くものであった。主な目標は、喫煙が致命的であるという増大する合意に反する科学的研究を促進することだった。TIRCは、自らにとって有用である可能性のある科学者の研究を探し出し、公表した。例えば、アスベストを研究している科学者たちの研究などである。1957年には「喫煙と健康」というパンフレットを作成し、数十万人の医師や歯科医に配布した。これは喫煙に関する利用可能な研究のサンプルを提供するものであった。

それは一貫して自らの研究を、タバコの健康影響に関する継続中の論争の証拠として指摘し、その仮定された論争を利用して、メディア報道において業界の見解に同等の時間と注意を求めました。この戦略は、科学界がタバコと癌の関係について合意に達しても、たとえば1953年にはタバコ業界自身の科学者たちがその関係を認めていたにもかかわらず、一般の意見が分かれていたことを意味します。1953年から1954年にかけての著しい売上の減少の後、タバコの健康リスクに関する議論は完全に解決されることはありませんでしたが、タバコの販売は再び増加し始めました。このように、タバコ業界の戦略は数十年にわたって着実に機能していました。

「プロパガンダ」という用語は、17世紀初頭に起源を持ち、グレゴリウス15世が「信仰の普及のための聖なる会議」を設立した際に使われました。この会議は、世界中での宣教活動を通じてローマ・カトリック教を広めることを目的としており、特にプロテスタントが多いヨーロッパの地域でも活動していました（今日では「民族の福音宣教のための会議」と呼ばれています）。17世紀のヨーロッパでは、政治と宗教が深く結びついており、カトリックとプロテスタントの間の神学的な対立を基にした大規模な同盟や帝国が形成されていました。この会議のヨーロッパ内での活動は、単なる宗教的な宣教にとどまらず、政治的な転覆をも意味し、フランス、スペイン、神聖ローマ帝国の南部諸州の利益を、北ヨーロッパやイギリスのプロテスタントの拠点で促進していました。このカトリック教会の活動の政治的側面が、情報を政治的目的のために体系的かつしばしば偏った形で広めるという現在のプロパガンダの意味を生み出しました。マルクスとエンゲルスが『共産党宣言』の中で「私たちのプロパガンダによって階級意識を創造しようとした」と述べた際の意味も、まさにこのものでした。また、ナチス・ドイツのゲッベルスが「プロパガンダ大臣」としての役職を持っていたことも、この意味を想起させます。アメリカとソ連の間で「心と精神」を巡る冷戦の戦いは、まさにプロパガンダ戦争として適切に表現されています。

現代のプロパガンダの多くの手法は、第一次世界大戦中にアメリカ合衆国によって開発されました。1917年4月から1919年8月まで、公共情報委員会（CPI）は、アメリカの戦争参加を国民に売り込むための体系的なキャンペーンを展開しました。CPIは映画、ポスター、印刷物を制作し、アメリカを含む10カ国にオフィスを持っていました。場合によっては、アメリカのヨーロッパでの活動に関して新聞に明らかな嘘を流し、時にはそれが発覚し、ニューヨーク・タイムズが「公共誤情報委員会」と呼ぶ社説を掲載することもありました。このグループの一員は後にその活動を「心理戦」と表現しました。

戦後、心理戦の武器はアメリカと西ヨーロッパの消費者に向けられました。1920年代に出版された一連の書籍、特に『世論の結晶化』（1923年）や『プロパガンダ』（1928年）において、CPIのベテランであるエドワード・バーネイズは、社会科学や心理学の結果を統合し、政治的目的だけでなく商業目的のためにも公共の意見を大衆操作する一般的な理論を発展させました。

バーネイズの戦後の活動は、政治と商業の区別をほとんどしませんでした。彼の最も有名なキャンペーンの一つは、タバコを「自由の松明」として再ブランド化し、女性の解放の象徴とするものでした。これは、女性の喫煙に対する社会的タブーを打破し、タバコ製品の市場を倍増させることを目的としていました。1929年、アメリカン・タバコ・カンパニー（ラッキー・ストライクの製造元）との契約のもと、彼は女性たちにニューヨークのイースターサンデーパレードで行進しながら喫煙するよう支払いました。

タバコ、砂糖、トウモロコシ、医療、エネルギー、害虫駆除、火器などを含む産業が、広告を超えて科学研究、立法、政治的議論、公共の理解を操作するための影響力や情報キャンペーンに関与しているという考えは、驚くべきことであり、深刻な懸念を引き起こします。しかし、これらの活動の結果は私たちの周りに存在しています。あなたは、脂肪が不健康であり、肥満や心臓病の主な原因であると信じていましたか？

砂糖産業は、脂肪の健康リスクに関する研究を支援し、促進するために多額の投資を行い、砂糖の持つより大きなリスクから注意を逸らそうとしました。レクリエーション目的のマリファナ合法化に対する長期的な抵抗の背後には誰がいるのでしょうか？多くの利害関係者が関与していますが、特にアルコール業界の団体が強力かつ効果的な立場を取っています。このような業界が支援する信念の例は数多くあります。例えば、急性の痛みのために処方されたオピオイドは依存性がないという考えや、銃を所有する人々は銃を持たない人々よりも安全であるという考えなどです。

バーナイズ自身は、商業的および産業的な情報キャンペーンを含むプロパガンダの役割について楽観的な見方をしていました。彼にとって、それは民主社会における有益な社会変革のための道具であり、より自由で平等で公正な社会を促進する手段でした。彼は特に、プロパガンダが人種や性別の平等、教育改革のための運動をどのように助けることができるかに焦点を当てました。バーナイズや彼のクライアントの懐を潤すための有用性は、彼にとっては単なる追加の利点に過ぎませんでした。結局のところ、彼はアメリカ合衆国の「狂騒の20年代」の真っ只中に執筆しており、資本主義から目を背ける理由はありませんでした。プロパガンダは成功した民主主義の鍵でした。

今日、バーナイズの著作を彼自身の提言の視点から読むことは難しくありません。彼は公共関係業界の広報担当者としての仕事をしていたのです。そして、彼の安心感にもかかわらず、彼のページには暗い側面が潜んでいます。例えば、彼は「この見えない社会のメカニズムを操る者たちは、我々の国の真の支配権を持つ見えない政府を構成している。我々は、知らない男たちによって支配され、心を形成され、嗜好を作り出され、アイデアを提案されている」と書いています。

これは陰謀論者の戯言のように聞こえるかもしれませんが、実際にはそれ以上に悪意のあるものであり、陰謀への招待状であり、その創始者の一人によって起草され、彼の影の思想リーダーの評議会に参加したいと思っている産業の巨人たちをターゲットにしています。

バーナイズは自らの主張を誇張したかもしれませんが、彼の考えには深刻な影響があります。もし彼の言う通りであれば、民主社会の概念自体が幻想に過ぎず、国民の意志は隠れた力によって形作られるものであり、代表制政府は無意味なものとなります。私たちの唯一の希望は、自分たちの信念や意見、嗜好がどのように形成されているのかを特定し、再びコントロールを取り戻す方法を探ることですが、タバコ戦略の成功が示すように、これは非常に困難なことです。

タバコ戦略は、規制を遅らせ、喫煙の健康リスクを隠すことにおいて非常に成功しました。1950年代初頭には喫煙と癌の関連性に関する強力な証拠があったにもかかわらず、外科医総監が喫煙と健康リスクの関連を示す声明を発表したのは1964年、TIRC（タバコ産業研究委員会）が設立されてから10年後のことでした。翌年、議会はタバコ製品に健康警告を義務付ける法案を通過させましたが、連邦レベルでのタバコ広告の制限が始まったのは1970年であり、未成年者へのタバコ製品の販売禁止が実施されたのは1992年になってからでした。これらのことは、業界が明確な目標を持ち、それを達成するための緻密な戦略を採用し、最終的に目標を達成したことを示しています。しかし、歴史を見ただけでは、タバコ戦略がその目標にどの程度寄与したのかを明確にすることは難しいです。業界のプロパガンダは影響を与えたのでしょうか？もしそうなら、その戦略のどの側面が最も効果的だったのでしょうか？

個人や政策立案者が規制を遅らせ、癌と喫煙の関連に関する証拠を無視する理由は多々ありました。誰もがハンフリー・ボガートのように、口に煙草をくわえてクールでいられるでしょうか？あるいは、オードリー・ヘプバーンのように、腕の長さの煙草ホルダーを持っている姿を想像できるでしょうか？1950年代と1960年代には、喫煙は文化的に広く浸透しており、政府の命令によってこのアメリカ社会の側面を変えることは難しいと考えられていました。さらに悪いことに、タバコ業界の規制を試みる多くの人々は、自らも喫煙者でした。中毒性のある製品のユーザーが、その製品を生産する業界を規制しようとする際には、業界の介入とは無関係に明確な利益相反が生じます。

タバコ産業は研究資金の提供に加え、政治キャンペーンやロビー活動にも数百万ドルを投じました。微妙な社会学的要因も、タバコ戦略とはほぼ独立して喫煙習慣に影響を与えることがあります。2008年の驚くべき研究では、ハーバード大学の公衆衛生専門家ニコラス・クリスタキスとカリフォルニア大学サンディエゴ校の政治学者ジェームズ・ファウラーが、数千人の被験者からなる社会ネットワークを調査し、社会的なつながりが喫煙行動にどのように影響するかを探りました。彼らは、喫煙者が社会的に集まりやすいことを発見しました。喫煙する友人がいる人は喫煙者である可能性が高く、その逆もまた然りです。また、喫煙をやめた個人が友人や友人の友人、さらには友人の友人の友人にまで大きな影響を与えることもわかりました。個人の集団は一緒に喫煙をやめる傾向がありました。もちろん、喫煙を続けるグループも一緒に喫煙を続ける傾向があります。タバコの癌リスクが初めて明らかになった頃、アメリカの成人の約45％が喫煙者でした。誰が最初にやめるのでしょうか？

プロパガンダがどのように公共の信念を操作できるかを詳しく探るために、私たちは前章で見たモデルに再び目を向けます。これらのモデルを適用して、タバコ戦略や類似のプロパガンダ活動が公共の意見に大きな違いをもたらすと期待すべきかどうかを問いかけます。タバコ戦略のどの特徴が最も効果的で、なぜそれが機能するのか？プロパガンダは、圧倒的な科学的証拠にどのように対抗できるのか？オーストラリア国立大学の哲学者で政治学者のジャスティン・ブルーナーと協力し、彼の科学哲学者ベネット・ホルマンとの研究を基に、これらの質問に対処するモデルを開発しました。

私たちは、前章で説明した基本的なバラ・ゴヤルモデルから始めます。このモデルでは、科学者のグループが自分たちの社会ネットワーク内の人々とコミュニケーションを取りながら、AまたはBの2つの行動のうちどちらが平均的により良い結果をもたらすかを見極めようとしています。彼らはAが良い結果をもたらす頻度を正確に知っていますが、BがAよりも良いのか悪いのかは不明です。Aが良いと考える科学者はその行動を実行し、Bに傾く科学者はそれを試します。

彼らはベイズの法則を用いて、自分たちや同僚が行った実験に基づいて信念を更新します。前の章で見たように、この基本モデルにおける最も一般的な結果は、科学コミュニティがより良い理論に収束することですが、同調の欲求や異なる信念を持つ人々への不信感がこの楽観的な状況を妨げることがあります。

前の章では、このモデルとそのバリエーションを使って科学コミュニティにおける社会的影響を理解しました。しかし、私たちはこのモデルを変えて、科学コミュニティから政策立案者や一般市民といった非科学者のコミュニティにアイデアや証拠がどのように流れるか、またタバコ戦略家がこのプロセスにどのように干渉するかを調べることができます。

このために、私たちはモデルに新しいエージェントのグループを追加し、彼らを政策立案者と呼びます。科学者と同様に、政策立案者も信念を持ち、見た証拠に基づいてベイズの法則を使ってそれを更新します。しかし、科学者とは異なり、彼らは自ら証拠を生み出さず、科学ネットワークに依存して世界について学ぶ必要があります。政策立案者の中には、1人の科学者の意見だけを聞く者もいれば、全ての科学者の意見を聞く者や、その中間の数の科学者の意見を聞く者もいます。図8はこのモデルへの追加を示しています。右側には、以前と同様に科学者のコミュニティがサイクル状に配置されています。以前と同じく、彼らの中には理論Aを支持する者（明るいノード）と理論Bを支持する者（暗いノード）がいます。左側には政策立案者（円ではなく四角形）が追加され、それぞれが理論BがAよりも優れているかどうかについての自分の信念を持っています。点線は、彼らが科学者と接続しているものの、その関係が一方通行であることを示しています。この図では、1人の政策立案者が1人の科学者の意見を聞く場合、2人の意見を聞く場合、3人の意見を聞く場合を示しています。

このフレームワークにこの修正を加えるだけで、政策立案者の信念は一般的に科学的合意に追随することがわかります。科学者が行動Bを支持するようになると、政策立案者も同様に支持します。これは、政策立案者が最初は懐疑的で、Aを支持する信念（0.5未満）から始まった場合でも起こります。政策立案者が少数の科学者としか接続されていない場合、真の信念に近づくのは遅くなるかもしれませんが、科学者がそうである限り、最終的には必ずそこにたどり着きます。

Xl #2240 Kindle for PC 4 - 誤情報の時代: 偽の信念が広がる仕組み (英語版)

図8. 政策立案者と科学者のエピステミックネットワーク
政策立案者と科学者の両方は、行動A（明るいノード）または行動B（暗いノード）のどちらが良いかについての信念を持っていますが、実際にこれらの行動をテストするのは科学者だけです。政策立案者は、特定の科学者たちの結果を観察し、自らの信念を更新します。科学者と政策立案者の間の点線は、この一方的な関係を反映しています。ここに、プロパガンダを行う者を加えた場合を考えてみましょう。プロパガンダを行う者は、科学者と同様に政策立案者と結果を共有できる別のエージェントですが、科学者とは異なり、2つの行動のうちどちらが優れているかを特定することには興味がありません。このエージェントの目的は、行動Aが好ましいと政策立案者に納得させることだけです—実際には行動Bが好ましいにもかかわらずです。図9は、このエージェントを含むモデルを示しています。プロパガンダを行う者は自らの信念を更新せず、すべての政策立案者とコミュニケーションを取ります。タバコ戦略は多面的でしたが、TIRCや類似のグループが科学を利用して科学に対抗した具体的な方法がいくつかあります。最初の戦術は「偏った生産」と呼ばれるものです。この戦略は一見明白に思えるかもしれませんが、業界が資金提供し、場合によっては実際に行う研究を直接支援することを含みます。産業勢力が研究の生産をコントロールすれば、何が発表され、何が無視または廃棄されるかを選択できます。その結果、業界に有利な結果が流れ出ることになります。

図9. 科学者、政策立案者、プロパガンダを行う者のエピステミックネットワーク
プロパガンダを行う者は、自らの信念を持っていません。代わりに、彼らの目標は、すべての政策立案者に誤解を招く結果だけを伝えることです。明るいノードは行動Aを好む個人を、暗いノードは行動Bを好む個人を表しています。

タバコ会社は、TIRCの設立後、このような研究に多額の投資を行いました。

1986年までに、彼ら自身の推計によれば、スポンサー付き研究に1億3000万ドル以上を費やし、2600本以上の論文が発表されました。タバコ業界は、自らに有益な結果をもたらすと期待される研究者やプロジェクトに対して賞を授与しました。この研究は、選ばれた独立した研究と共に業界のニュースレターやパンフレット、ジャーナリストや政治家、医療専門家へのプレスリリース、さらには議会での証言として共有されました。研究への資金提供は、業界にいくつかの利益をもたらしました。タバコの幹部が喫煙者の健康を気にかけていると主張するための具体的（ただし誤解を招く）な支持を提供し、法的手続きやジャーナリストが相談するための業界に友好的な専門家として登場できる医師へのアクセスを与えました。また、規制の取り組みに対抗するために使用できるデータも生み出しました。

タバコ業界が資金提供した研究者にどのような圧力をかけたのかは分かりにくいですが、将来の資金提供の約束が研究者にとってTIRC（タバコ産業研究委員会）を喜ばせる成果を生み出すインセンティブであったことは確かです。しかし、タバコ業界自身が喫煙と肺癌の強い関連性を示す研究を行いながら、それを公表しなかったという強い証拠があります。実際、業界の科学者たちは1950年代にはすでに喫煙が癌を引き起こすと確信していたようです。それにもかかわらず、その研究結果は数十年間隠され、1990年代に法的手続きを通じて明らかにされるまで公開されませんでした。言い換えれば、業界の科学者たちは喫煙が安全であることを示す研究を生み出すだけでなく、タバコと癌を結びつける研究結果を隠していたのです。このような偏った研究の生産を私たちのモデルに加えましょう。各ラウンドで、プロパガンダを行う者は常に行動Bを実行し、その後、行動Aがより良いことを示唆する結果だけを共有すると仮定します。各研究で、プロパガンダを行う者が行動Bを10回実行したとしましょう。この行動が成功するのが4回以下の場合は結果を共有し、それ以外の場合は共有しません。これにより、行動Bは平均して行動Aよりも悪いように見えます（行動Aは10回中5回成功する傾向があります）。政策立案者は、この証拠を基にベイズの法則を用いて信念を更新します。

（政策立案者は、彼らがつながっている科学者から共有された結果に基づいて、以前と同様に自らの信念を更新します。）31 — 図10は、これがどのように見えるかの一例を示しています。（a）では、政策立案者が異なる信念を持っている様子が示されています（図の簡潔さのために科学者の信念は省略されています）。（b）では、宣伝者と科学者がそれぞれ自らの信念をテストします。科学者はそれぞれ10回コインを投げます。この例では、宣伝者は5つの研究を実施するための十分な資金を持っており、各研究には10人の被験者がいます。そのため、5つの結果を得ることができます。その後、科学者たちは結果を共有し、宣伝者は太字で示された2つの結果、つまりBがあまり成功しなかった結果のみを共有します。（c）では、政策立案者が自らの信念を更新した様子が示されています。

図10. 宣伝者が偏った情報を発信するモデルにおける政策立案者の信念更新の例。（a）では政策立案者の初期の信念が示されています。（b）では科学者が自らの信念をテストし、宣伝者が理論Bをテストします。宣伝者は、Aを支持するように見える試行（太字の部分）だけを共有することを選びます。（c）では、政策立案者がこの証拠に基づいて信念を更新する様子が示されています。明るいノードは行動Aを好む個人を、暗いノードは行動Bを好む個人を表しています。

この戦略が政策立案者の信念に大きな影響を与えることがわかります。実際、科学者たちが正しい行動について合意に達するにつれて、政策立案者は誤った行動の方が良いと確信するようになります。彼らの信念はまさに逆方向に進んでしまいます。さらに悪いことに、この行動は安定していることが多く、科学コミュニティがどれだけの証拠を示しても、宣伝者が活動を続けている限り、政策立案者は真実を信じることは決してありません。このモデルでは、宣伝者はデータを捏造することはありません。彼らは実際の科学を行っています。

科学者たちは、実際に実験を行い、その結果を報告していますが、彼らは同じ基準や方法を用いているにもかかわらず、結果を選択的に発表します。明らかな詐欺ではないにせよ、このような選択的な公表は確かに不審に思えます。なぜなら、それは誤解を招くように設計されているからです。しかし、産業界の干渉がなくても、選択的な公表は科学の世界では一般的であることを強調することが重要です。興味深い結果を出さない実験は、しばしば公表されず、あまり読まれない小さなジャーナルに relegated されます。曖昧または不明瞭な結果は、論文から完全に省かれることもあります。つまり、公表されるものは、実際に行われた実験の完璧な反映ではありません。このような慣行は「公表バイアス」や「ファイルドロワー効果」と呼ばれ、科学的理解に独自の問題を引き起こします。この観察は、偏った生産戦略における動機的な選択を正当化するものではありません。むしろ、良くも悪くも、これは通常の科学的慣行と連続していることを強調するためのものです。

これらのモデルで何が起こっているのかを考える一つの方法は、科学者と政策立案者の心をつかもうとする宣伝者との間で綱引きが行われているということです。時間が経つにつれて、科学者の証拠は真実の信念を推奨する傾向があります。より多くの研究が行動を支持し、それが平均してより良い結果をもたらすからです。したがって、科学者が共有する結果は、平均して政策立案者を真実の信念へと導くことになります。

一方で、宣伝者は悪い理論を支持する結果のみを共有するため、彼らの影響は常に政策立案者の信念を逆方向に押しやります。この効果は常に政策立案者の真実への進行を遅らせ、もし宣伝者が十分に強く引っ張ることができれば、政策立案者の信念の方向を逆転させることも可能です。どちらの側がより強く引っ張れるかは、科学コミュニティの詳細や科学者が取り組む問題によって異なります。

例えば、政策決定者が十分に情報を持っている場合、産業の宣伝者があまり効果的でないのは驚くべきことではありません。政策決定者が多くの科学者とつながっているほど、真実の理論に導くための十分な証拠を得る可能性が高まります。もし、医師のコミュニティがタバコの煙の危険性について医学文献を徹底的に調査していると想像すれば、彼らはTIRCの活動に対してあまり影響を受けないと予想されます。一方で、政策決定者が独立した科学コミュニティとのつながりが少ない場合、外部の影響を受けやすくなります。同様に、宣伝者はより多くの資金を持っているほど成功しやすいのです。資金が多ければ多いほど、より多くの実験を行うことができ、その結果、宣伝者が報告できる虚偽の結果が増える可能性が高まります。

資金が一定の額である場合、宣伝者がその資金を個々の研究にどのように配分するかも、彼らの成功に影響を与えることはあまり明白ではありません。例えば、宣伝者が癌の検査を受ける60人の喫煙者のデータポイントを集めるのに十分なお金を持っているとしましょう。彼らはこの資源を使って60人の被験者を対象にした1つの研究を行うか、10人ずつの6つの研究を行うか、あるいは2つのデータポイントを持つ30の研究を行うかもしれません。驚くべきことに、宣伝者はできるだけ少ないデータポイントで多くの研究を行い、公表することで最も効果的になります。なぜそうなるのでしょうか？

例えば、70％の確率で表が出るコインを投げて、そのコインが表に偏っているのか裏に偏っているのかを調べたいとします（これは、私たちのモデルにおける科学者が直面する問題に類似しています）。このコインを60回投げると、全体として表が多く出る可能性が非常に高くなります。あなたの研究は正しい方向に導く可能性が高いでしょう。しかし、コインを1回だけ投げると、30％の確率でその研究がコインが裏に偏っていると誤解させる結果になる可能性があります。言い換えれば、データポイントが多ければ多いほど、真の効果を反映する可能性が高くなります。

大規模な研究を多くの小規模な研究に分けることで、宣伝者にとっての材料を提供することができるのです。

左側には、60のデータポイントを用いた試験が示されており、これは行動B（暗い色）の優位性を反映しています。右側では、同じデータポイントが6つの試験に分けられています。そのうちの3つは、行動A（明るい色）を誤って支持しています。プロパガンダを行う者は、これらの研究だけを共有することで政策決定者を誤導することができ、より大規模な研究ではそれが不可能になります。図11はその一例を示しています。これは、60人の被験者を対象とした1つの研究と、各10人の被験者を対象とした6つの研究の可能な結果を表しています。どちらの場合も、サンプルが行動Bの実際の結果分布を正確に表していると仮定しています。つまり、行動Bは70%の確率で効果があったということです。言い換えれば、結果は同じですが、異なる方法で分けられています。60人の被験者を対象とした研究はBの有効性を明確に示していますが、小規模な3つの研究はAを指し示しています。プロパガンダを行う者は、この3つだけを共有し、Bの失敗が19回、成功が11回であったかのように見せかけることができます。

同様に、極端な場合には、プロパガンダを行う者が資金を使って60の研究を実施し、それぞれが行動Bの失敗のみを報告することも可能です。彼らは、コインを何回投げて他の結果が出たかを示すことなく、行動Bが失敗したデータポイントだけを提示します。このような偏ったデータサンプルを用いてベイズの法則を適用する観察者は、実際には劣っている行動Aの方がはるかに優れていると考えることになるでしょう。言い換えれば、データが少ないほど、各結果が誤ったものである可能性が高まり、プロパガンダを行う者が共有できる結果が増えるのです。

偏った結果の生成は、多くの点で粗雑な手法です。完全な詐欺よりはマシかもしれませんが、それほど違いはありません。また、リスクも伴います。このような戦略が露見すると、プロパガンダを行う者が何かを隠しているように見えます（実際、彼らは隠しているのですが—すべての研究がファイルの引き出しにしまわれています）。しかし、プロパガンダを行う者は、より安価で、全体的に見てより効果的な、より微妙な手法を使用することができることがわかりました。その一つが「選択的共有」と呼ばれるものです。選択的共有は、特定の研究を探し出し、それを促進することを含みます。

独立した科学者によって行われ、プロパガンダを行う者の直接的な介入がない研究が、たまたまプロパガンダの利益を支持する場合があります。オレスケスとコンウェイが示すように、選択的な情報共有はタバコ戦略の重要な要素でした。1950年代、喫煙と肺癌との関連を示す研究が増えていく中で、タバコ協会というグループは「タバコと健康」という定期的なニュースレターを発行し、関連性がないことを示唆する研究を紹介しました。このニュースレターは、独立した結果を報告することが多かったのですが、意図的に選択的な方法で行われており、科学文献で広く議論されている他の結果を弱めることを目的としていました。

例えば、マウスにおけるタバコのタールが皮膚癌を引き起こすことを示したスローン・ケタリング研究に対して、「タバコと健康」は同じグループによる後の研究を指摘し、癌の発生率が低いことを示唆しました。これにより、最初の研究が欠陥があるかのように暗示しながら、利用可能なデータの完全な説明を行っていませんでした。このニュースレターは「五つのタバコ動物研究が癌を報告せず」といった見出しを掲げましたが、癌を報告した研究の数には触れませんでした。この戦略は、科学がどのように機能するかについての一般の誤解を利用しています。多くの人々は、個々の科学的研究が仮説の証明や確認を提供するものと考えています。しかし、証拠の確率的な性質は、実際の科学がこの理想から遠いことを意味します。どの研究も間違う可能性があり、これは大手タバコ業界が利用した事実です。

「タバコと健康」はまた、肺癌とアスベスト、自動車の排気ガス、石炭の煙、さらには早婚など、他の物質との関連についても報告しました。これにより、近年の肺癌率の上昇がこれらの他の要因によって引き起こされた可能性があることを暗示しました。関連する戦略として、研究論文や書籍からの引用を抽出し、公表することがありました。これらの引用は、一見すると結果についての不確実性や慎重さを表現しているように見えました。科学者は、研究が強い関連性を示している場合でも、その重要性について控えめであることがあります。

例えば、喫煙が癌を引き起こすことを立証する初期の研究の一つを行ったイギリスの疫学者リチャード・ドールは、『タバコと健康』誌において、「タバコのタールや煙にさらされた動物を使った実験は、常に人間の気管支癌に匹敵する肺腫瘍を生じることに失敗している」と述べたと引用されています。しかし、このニュースレターは、これらの実験がタールや煙にさらされた動物が他の部位で癌を発生させることを示していたことには触れていませんでした。ドールは確かに正確な区別を行っていましたが、業界は彼を不確実性を表明しているかのように描きました。

私たちのモデルでは、プロパガンダを行う者は、科学コミュニティが出した結果を検索し、自分たちの agenda を支持するものだけを選んで共有します。このプロセスは、プロパガンダを行う者が好意的な結果のみを共有するため、偏った生産のように見えますが、大きな違いがあります。このモデルで共有される結果は、すべて独立した研究者によって生み出されたものです。プロパガンダを行う者は科学を行うわけではなく、単に科学者が生み出したデータが統計的分布を持つという事実を利用しています。そして、一般的に間違った行動がより良いと示唆する結果が存在することになります。図12は、プロパガンダを行う者による選択的共有の下で政策決定者の信念に何が起こるかの例を示しています。（この図では、科学者と政策決定者の数を減らして、見やすくしています。）ここで注目すべきは、プロパガンダを行う者がすべての科学者の信念を観察し、政策決定者とコミュニケーションをとっている点です。(a)では彼らの初期の信念が示されています。(b)では、科学者たちが自分たちの好む行動だけを試し、そのうちの3人がBを試みます。この場合、偶然にも2人の科学者が4回の成功しか観察せず、それぞれがBがAよりも悪いように見える結果を示しています。プロパガンダを行う者は、これらの2つの結果だけを共有します。(c)では、その結果、政策決定者の信念がより不正確になっていることがわかります。

この戦略において、プロパガンダを行う者は科学的プロセスに干渉することは全くありません。彼らは科学者を買収したり、自分たちの研究に資金を提供したりすることはありません。彼らは単に、偶然にも間違った答えを示唆する独立した実際の研究を利用するのです。

彼らはこれらの研究、そしてこれらの研究のみを政策立案者に送ります。選択的な共有が非常に効果的であることがわかりました。偏った情報の提供と同様に、私たちは多くのケースにおいて、選択的な共有のみを利用するプロパガンダ活動者が政策立案者を誤った信念に導くことができることを発見しました。これは、科学コミュニティが真実に収束しているにもかかわらず起こる可能性があります。政策立案者もまた、科学者自身が共有した証拠に基づいて信念を更新しているにもかかわらずです。

選択的な共有の基本的なメカニズムは、偏った情報の提供の背後にあるものと似ています。それは、真実の信念に引き寄せる科学者が共有する結果と、プロパガンダ活動者が共有する結果が反対の方向に引っ張り合う綱引きのようなものです。違いは、プロパガンダ活動者がどれだけ強く引っ張るかが、彼らが自分の研究を行うためにどれだけの資金を投入できるかに依存しなくなり、科学コミュニティにおいて虚偽の結果が現れる速度のみに依存するようになることです。

図12は、プロパガンダ活動者による選択的な共有の下での政策立案者の信念の更新の例です。(a)では、政策立案者の初期の信念を示しています。(b)では、科学者たちが自分たちの好む行動をテストしています。(明るいノードは行動Aを取る個人、暗いノードは行動Bを取る個人を示しています。) これらのテストの中には、偶然にも理論Aを支持する結果があり、プロパガンダ活動者はそれらの結果（太字で示されたもの）だけを政策立案者と共有することを選びます。(c)では、政策立案者が科学者から直接得た証拠とプロパガンダ活動者からの虚偽の結果に基づいて信念を更新したことがわかります。

このため、選択的な共有の効果は、問題の詳細に依存します。科学者が証拠が曖昧な事柄についてデータを収集している場合—たとえば、患者の症状が大きく異なる病気の場合—誤った行動がより良いと示唆する結果が多くなる傾向があります。そして、誤解を招く研究が多ければ多いほど、プロパガンダ活動者が公表するための材料が増えることになります。

もし喫煙者全員が肺癌にかかっていたら、タバコ戦略は何の成果も上げられなかったでしょう。しかし、肺癌と喫煙の関係があいまいであるため、タバコ会社には利用できる余地がありました。（偏った研究のケースでも同様のことが言えます。一般的に、同じ数の偽の結果を生み出すためには、プロパガンダを行う者はより多くの研究を行う必要があり、つまりより多くの資金を投入しなければなりません。証拠があいまいになるにつれて、必要な研究の数が増えるのです。）

科学コミュニティの慣行も、選択的な情報共有の効果に影響を与えることがあります。たとえ業界が科学的プロセスに干渉しなくてもです。プロパガンダを行う者は、科学者が多くの研究を行い、それぞれの研究が比較的少ないデータを持つ場合に特に成功します。論文を発表するために必要なデータの量は、分野によって大きく異なります。粒子物理学のような分野では、実験結果の発表に対して非常に高いデータの量と質が求められますが、神経科学や心理学のような分野は、基準が低いと批判されています。

なぜデータが少ないことがプロパガンダを行う者にとって有利なのでしょうか？その答えは、参加者が少ない研究が偏った生産戦略においてプロパガンダを行う者にとって有利である理由と密接に関連しています。もしすべての科学者が各研究でコインを100回投げるとしたら、プロパガンダを行う者は公表できる研究が非常に少なくなります。一方で、各科学者がコインを5回投げる場合、プロパガンダを行う者は公表する結果を選ぶ機会が増えます。科学コミュニティの基準が低ければ低いほど、公共の意見を巡る綱引きでプロパガンダを行う者にとっては有利になります。

もちろん、より多くのデータを求めれば求めるほど、各研究のコストは高くなり、これがより多くのデータを持つ研究を行うことを難しくすることがあります。しかし、1人の科学者がコインを100回投げるケースと、20人の科学者がそれぞれ5回ずつコインを投げるケースを考えてみてください。前者では、プロパガンダを行う者は結果を共有するかどうかを選ぶことができますが、後者では、プロパガンダを行う者は研究の中から選び取ることができます。後者のケースでは、プロパガンダを行う者が共有する何かを見つける確率ははるかに高くなります。たとえ両方のケースで科学者たちが行ったコイン投げの合計回数が同じであってもです。

数学的には、これは独立したコミュニティにおける図11で見たものと同じです。この観察は、科学の資金提供と報告の方法について驚くべき教訓をもたらします。一般的に、より多くの科学者が問題に取り組む方が良いと考えるかもしれません。なぜなら、そうすることでより多くのアイデアが生まれ、独立性が高まるからです。しかし、資金提供機関が特定の科学分野に割り当てる資金が限られている現実の状況では、より多くの科学者に資金を提供することが常に最善とは限りません。

私たちのモデルは、少数のグループに大きな資金を提供し、その資金を使ってより多くのデータを収集する研究を行う方が、少人数に小さな資金を分配してそれぞれがわずかなデータポイントしか集められないよりも良いと示唆しています。後者の資金分配は、プロパガンダを行う者にとって虚偽の結果を生む可能性が高くなります。

もちろん、この考え方には限界があります。たった一人の科学者に資金を提供することは、最終的に誤った仮説を持つ人物を選ぶリスクを高めます。さらに、多様な意見、信念、方法論が存在することは、より民主的に構成された科学コミュニティに多くの利点をもたらします。ここでのポイントは、単に問題に対して科学者を増やすことが、プロパガンダを行う者がいる場合には逆効果をもたらす可能性があるということです。おそらく最良の選択肢は、多くの科学者に資金を提供し、その研究を集約して発表し、全体の証拠の評価とともに行うことです。

ほとんどの分野では、より多くのデータが収集される研究の重要性が認識されています（他の条件が同じであれば、データが多い研究は統計的な力が高いとされ、これは厳密な科学にとって不可欠であると広く認識されています）。それにもかかわらず、低い統計的力を持つ研究は依然として問題となっています。このような研究の普及は、行動科学や医学におけるいわゆる再現性危機に関連しています。2010年に広く報告された研究では、心理学者のグループが自分たちの分野で発表された100の結果のうち36しか再現できませんでした。

2016年に『ネイチャー』誌が実施した調査では、さまざまな分野の科学者の70％が他の科学者の結果を再現できなかったと答え（50％は自分自身の結果を再現できなかったと答えました）、再現性が科学の特徴とされる中で、これらの再現失敗は驚くべきことです。

問題の一部は、新しい効果を示す論文は、効果がないことを示す論文よりも発表されやすいということです。そのため、時には虚偽の結果をもたらすような基準を採用する強い個人的なインセンティブが存在します。さらに、効果がないことを示す研究は、しばしば全く発表されないため、どの発表された結果が虚偽であるかを認識するのが難しくなります。もう一つの問題は、多くの学術誌が虚偽の結果が生じやすいパワーの低い研究を受け入れていることです。このため、最近、学際的な研究チームが発表基準の厳格化を提唱しています。

このような背景を考えると、データが少ない研究が「タバコ戦略」の餌食になる可能性は懸念されます。科学コミュニティが正確な結論を導く可能性が最も高い実践を遵守することを望むのは言うまでもありません。高い統計的パワーを持つ実験研究を求めることは、プロパガンダを行う者にとって困難をもたらすため、より厳格な基準を求める理由がさらに強まります。選択的な情報共有の成功は驚くべきものであり、これは科学的プロセスへの最小限の介入であるため、ある意味では全くの介入ではないと言えます。実際、ある意味では偏った生産よりも効果的である理由が二つあります。一つは、はるかに安価であることです。業界は科学を資金提供する必要はなく、ただそれを広めるだけで済みます。また、リスクも少なく、選択的に情報を共有するプロパガンダを行う者は、結果を隠したり抑圧したりすることはありません。さらに、科学者のコミュニティが虚偽の結果を生み出す割合は、コミュニティの規模に比例して増加する傾向があり、より多くの科学者が問題に取り組むほど、虚偽の結果が増えることになります。一般的に、彼らは真実の信念に対する証拠をより多く生み出しますが、偏った生産は、より多くの科学者が参加するにつれて急速に費用がかさむようになります。選択的な情報共有の利点を考えると、なぜ業界は研究者に資金を提供するのでしょうか？実際、科学に資金を提供することは、科学コミュニティ内のバランスを変える微妙な効果をもたらし、最終的には選択的な情報共有をより効果的にすることがあるのです。

2003年の夏、アメリカ医師会（AMA）は、ジェーン・ハイタワーが起草した、魚に含まれるメチル水銀のレベルに関する国家的な行動を求める決議案について投票を行う予定でした。この決議案は、水銀レベルの大規模なテストと、その結果を一般に伝えるための広報キャンペーンを要求するものでした。しかし、投票は実施されませんでした。ハイタワーが著書『診断：水銀』で報告しているように、決議案が審議される予定の日に、カリフォルニア州の代表者が「新しい指令」が出たという知らせを受け取りました。それは、魚に含まれる水銀は人間にとって有害ではないというものでした。この新しい指令は実際には存在しなかったのですが、何らかの形で新しい証拠の噂だけで審議が頓挫してしまったのです。決議案について投票する代わりに、責任を持つ委員会はそれをAMAの科学問題委員会に回し、さらなる調査を行うことになりました。これにより、決議案が再び審議されるまでに少なくとも1年の待機が必要となりました。

1年後、AMAの2004年の会議で、委員会は調査結果を報告しました。広範な研究の結果、元の決議案に同意し、魚に対してメチル水銀のテストを行い、その結果を公表することを推奨しました。そしてさらに、FDAに対してこのテストの結果を魚が販売される場所に掲示するよう求める決議を行いました。しかし、なぜ噂が最初に決議案の提示を妨げたのでしょうか？その噂はどこから来たのでしょうか？

この謎は未解決のようですが、ハイタワーは何が起こったのかを理解しようとし、メチル水銀が魚に含まれていることが有害でないと主張する数少ない科学的結果を掘り下げ始めました。特に目立ったのは、ロチェスター大学に拠点を置く研究グループでした。このグループは、アフリカのセイシェル諸島で魚を多く消費する人々を対象にした縦断的研究を行っていました。研究者たちは、メチル水銀が子供に与える可能性のある影響を調査していました。

#3280 Kindle for PC
4 - 誤情報の時代: 偽の信念が広がる理由 (英語版)

ロチェスターグループのメンバーであるフィリップ・デイビッドソンは、グループの研究についてのプレゼンテーションを行いました。ハイトワーの友人がそのプレゼンテーションのコピーをファックスで送ってくれたのですが、謝辞の部分で電力研究所（EPRI）への感謝が述べられていることに気づきました。EPRIは、魚に含まれるメチル水銀の原因となる石炭産業を含む電力産業のロビー団体です。

ハイトワーは、EPRIがセーシェルの研究を含むメチル水銀に関する共同研究プロジェクトに48万6000ドルの助成金を出していたことを発見しました。同じプロジェクトは、ナショナル・ツナ・ファウンデーションから1万ドル、ナショナル・フィッシャリーズ・リソース・ディフェンス・カウンシル（NRDC）から5000ドルの資金を受け取っていました。NRDCは、著者が潜在的な利益相反を明らかにしていないことを指摘し、セーシェルの研究に対して手紙を書きました。

デイビッドソンはプレゼンテーションでEPRIに感謝の意を示しましたが、彼と彼の共同研究者たちは、いくつかの学術誌に発表した論文の中でこの資金提供について言及していませんでした。ロチェスターグループの別のメンバーは、EPRIが資金を提供したにもかかわらず、問題となった論文は他の資金源によって支えられていると主張する返答を作成しました。彼は、「EPRIや漁業の利害関係者は、この研究において何の役割も果たさず、データの収集、解釈、分析、原稿の執筆にも影響を与えなかった」と書きました。

石炭産業からの重要な助成金が、石炭火力発電所の副産物が子供の発達に影響を与えるかどうかの研究に影響を与えないとは考えにくいですが、ロチェスターグループが善意で行動していなかった理由はありません。

では、研究者たちがあらゆる段階で、産業の影響を受けることなく、自分たちの仕事を正確に行うことができたと仮定しましょう。それでも、産業の資金提供が影響を与える可能性はあるのでしょうか？科学哲学者のベネット・ホルマンとジャスティン・ブルーナーは、答えは「はい」であると最近主張しています。特定の科学者が産業から資金提供を受けているという事実だけで、科学的プロセスが劇的に歪められる可能性があるのです。

ホルマンとブルーナーは、産業が科学者自身を偏らせることなく、科学に影響を与えることができると主張しています。彼らはこれを「産業選択」と呼んでいます。ある問題に取り組む科学者のコミュニティを想像してみてください。彼らは、2つの行動のうちどちらが好ましいかを決定しようとしています。（彼らはすでに説明したバラ・ゴヤルのモデルフレームワーク内で作業しており、行動Aが行動Bよりも劣ると仮定します。）これらの科学者たちは、少なくとも初めのうちは異なる信念や仮説を持ち、異なる種類のテストを行うことが期待されます。さらに、ある科学者たちが行動Aを行動Bよりも誤って支持する可能性が高い方法や背景信念を持っていると仮定しましょう。この可能性を研究するために、ホルマンとブルーナーは、各科学者が異なるバイアスのレベルで「コインを投げる」モデルを使用します。ほとんどのコインは正しく行動Bを支持しますが、中には行動Aを支持するものもあります。この考え方は、科学において、たとえ全体としてはほとんどの方法が適切であっても、世界に対して特に調整されていない方法論を採用することができるというものです。（どの方法が最適かは、科学において微妙な問題です。）さらに、ホルマンとブルーナーは、異なる実践があるために、一部の科学者が他の科学者よりも生産的であると仮定しています。時間が経つにつれて、一部の科学者がネットワークを離れ、退職や他の活動に移る際に置き換えられます。そして、彼らのモデルでは、置き換えられる科学者がすでにネットワーク内にいる最も生産的な科学者の方法を模倣する可能性が高いとされています。

このような置き換えのダイナミクスは、これまでに議論した他のモデルには見られない特徴です。しかし、この追加の複雑さは、モデルをある意味でより現実的にしています。

このモデルにおける科学者のコミュニティは、自然選択を受ける生物集団に似ています。より「適応的」な科学者（この場合、より多くの成果を出す科学者）は、自身を再生産する能力、すなわち成功した学生を育成し、若手研究者に影響を与えることで、コミュニティ内での存在感を高めることが得意です。

ホルマンとブルーナーは、このモデルにプロパガンダを行う者を加えています。しかし、今回はそのプロパガンダを行う者ができることは一つだけです。それは、研究資金を配分することです。プロパガンダを行う者は、彼らが推進したい理論に最も好意的な方法を用いる科学者を見つけ、その科学者に生産性を高めるための十分な資金を提供します。これには二つの効果があります。一つは、科学コミュニティに行動Aに好意的な結果があふれ、多くの他の科学者の考え方が変わることです。もう一つは、新しい研究室が行動Aを支持する方法を採用する可能性が高まることです。これは、たくさんの資金を受け取り、多くの論文を発表している研究者が、より多くの学生を影響力のある地位に置く傾向があるためです。時間が経つにつれて、ますます多くの科学者が行動Bよりも行動Aを支持するようになりますが、実際には行動Bの方が客観的に優れています。このようにして、産業団体は科学者コミュニティに圧力をかけ、産業に好意的な結果をより多く生み出させることができます。そして、それを実現するのは、単に誤った方向に進んでしまった善意の科学者たちが生み出す仕事の量を増やすことによってです。この現象は、ホルマン・ブルーナーモデルの理想化された科学者が人間ではなく、単なるコンピュータコードの行であるため、業界の利益によって偏ったり腐敗したりすることは不可能であるにもかかわらず発生します。ホルマンとブルーナーが指摘するように、科学の通常のプロセスがこのプロセスをさらに悪化させます。一度科学者たちが印象的な結果を出すと、彼らは国家科学財団のような政府の資金提供を受ける可能性が高くなります（これは「マシュー効果」の学術的なバージョンです）。もし産業が好む研究者に資金を提供することでバランスを崩しているなら、その研究者は無偏見な資金源からの資金を得る可能性が高くなり、その結果、さらに産業の利益に好意的な科学が生まれることになります。

また、産業の宣伝者が存在し、選択的な情報共有を行っている場合、彼らは行動Aを支持する方法を持つ科学者の結果を不均衡に共有することに注意が必要です。この意味で、選択的な情報共有と産業の選択は強力な相乗効果を生むことがあります。産業は、たまたまAを支持する研究者の生産性を人工的に高め、その結果を広く共有します。これは、詐欺や偏った生産なしに行われます。結果として、メチル水銀に関しては、ロチェスター大学の研究者が石炭産業の資金によって腐敗している理由はないものの、EPRIはおそらくその投資に見合った価値を得たと言えるでしょう。腐敗していない科学者も、知らず知らずのうちに産業の利益のために科学を覆すプロセスに参加してしまうことがあります。

ホルマンとブルーナーは、産業の選択の結果がさらに深刻だった別の事例を説明しています。1979年、ハーバード大学の研究者バーナード・ラウンは「不整脈抑制仮説」を提唱しました。これは、心臓発作による死亡を防ぐ方法は、心臓発作の前に見られる不整脈を抑制することだという考え方です。しかし、彼は不整脈の抑制が望ましい効果を持つかどうかは明確ではないと指摘しました。そのため、医療療法に関しては、不整脈の抑制ではなく、患者の死亡率をテストする変数として使用する研究を提唱しました。しかし、すべての医療研究者がラウンの慎重なアプローチに賛同したわけではありません。ペンシルベニア大学のジョエル・モーガンロスとスタンフォード大学のロバート・ウィンクルは、心臓発作を防ぐことを目的とした薬の有効性を試験するための試験のエンドポイントとして不整脈の抑制を使用しました。

これは特に便利な指標でした。なぜなら、新薬が不整脈を抑制しているかどうかを評価するのに短時間で済むのに対し、心臓発作による死亡を防ぐ薬の有効性をテストするには数年かかるからです。これらの研究者や他の研究者は、抗不整脈薬を研究するために製薬会社から資金を受け取り、成功を収めました。彼らの研究は、心臓発作のリスクがある人に抗不整脈薬を処方する新しい医療慣行の基礎を形成しました。しかし、問題は、抗不整脈薬が心臓発作による死亡を防ぐどころか、逆にそのリスクを高める結果をもたらしたことです。

このケースは、製薬会社が自らの目的、すなわち抗不整脈薬の製造と販売のために、研究者を偏らせることなく医療研究を操作できた状況を示しています。彼らは単に、自分たちに有利な方法で研究を行う研究者に資金を提供したのです。元々不整脈抑制を試験の終点として支持していたロバート・ウィンクルが、抗不整脈薬の心筋梗塞による死亡への影響を研究し始めた際、彼の資金は打ち切られました。

タバコ戦略とは異なり、産業選択は単に一般の科学理解を妨げるだけではありません。むしろ、産業選択は科学コミュニティ自体の機能を混乱させます。これは特に懸念されることで、産業がこの種のプロパガンダに成功すると、正しい信念の拠り所が存在しなくなります。産業選択は科学コミュニティに直接介入する非常に微妙で効果的な方法ですが、ホルマンとブルーナーは以前の記事で、産業が研究者を買収し、明確に偏った科学を生み出すことに成功する場合もあると指摘しています。このようなモデルでは、科学ネットワークの一員が偽装したプロパガンダ活動家であり、その結果は偏っています。例えば、行動Bが成功する確率は、実際の科学者にとっては0.7ですが、プロパガンダ活動家にとっては0.4かもしれません。この種のコミュニティの構造は図13に示されています。このような埋め込まれたプロパガンダ活動家は、科学者が正しい合意に達することを永遠に妨げる可能性があります。

彼らは、第二章で見たように、特定の状況下で科学者のコミュニティが真の合意に達するのを助けるネットワーク構造を利用することで、そうしています。プロパガンダを行う者が一貫して誤解を招くデータを共有すると、ネットワーク内の一般的な科学者が更新するサンプルに偏りが生じます。偏りのない科学者の結果がBを支持する場合、彼らの信念は高まる傾向がありますが、プロパガンダを行う者のAを支持する結果は同時に彼らの信念を低下させ、真実についての不確実性を無限に引き起こします。このような場合、業界が結果を公に伝える方法を歪める必要はありません。なぜなら、科学者自身が深く混乱しているからです。

プロパガンダを行う者は、科学者のコミュニティ内で直接合意を揺さぶるために、政策決定者の信念に焦点を当てるのではなく、科学者として振る舞います。ホルマンとブルーナーが議論する重要な問題の一つは、ネットワーク内の他の科学者がプロパガンダを行う者をどのように認識できるかということです。彼らは、自分たちの結果と隣接する科学者の結果の分布を調べることで、ある条件下で一貫して異常値を示すエージェントを特定し、そのエージェントの結果を軽視し始めることができると発見しました。残念ながら、これは難しく時間のかかるプロセスであり、ネットワーク内にプロパガンダを行う者があまりにも多くないことを前提としています。一方で、これは重要な教訓を浮き彫りにします。第二章では、科学者が信念に基づいて誰を信頼するかを選ぶモデルを考察しましたが、成功した科学者は自分の信念を共有するという前提がありました。しかし、ホルマンとブルーナーの研究は、実践的には実行が難しいものの、より効果的かもしれない別のアプローチを示唆しています。それは、彼らが生み出す証拠に基づいて誰を信頼するかを選ぶことです。これまでに議論してきたプロパガンダ戦略はすべて、証拠の操作を含んでいます。プロパガンダを行う者は、私たちが判断を下す際の総合的な証拠を偏らせ、結果を増幅し、促進することによって、私たちの判断を操作します。

#2840
Kindle for PC 4 - 誤情報時代: 偽りの信念が広がる理由 (英語版)
Dib RR BH Yow ANP

彼らの agenda を支持するために、または業界に都合の良い結果を生み出す方法を持つ科学者に資金を提供することによって、最終的には同じことになります。最も極端な場合、プロパガンダを行う者は、自らの研究を行い、自分たちの立場に不利な結果を抑圧することで、利用可能な証拠を偏らせることができます。これらのすべてのケースにおいて、プロパガンダを行う者は、私たちが信念を形成するために使用する証拠を形作ることができるため、効果的であり、したがって私たちの行動を操作することができます。

これらの戦略がどれほど効果的であるかは、意外かもしれません。個々の科学者の方法や結果を操作することなく、証拠が公に共有される方法を偏らせたり、ネットワーク内の科学者の分布を偏らせたり、科学者が見る証拠を偏らせることで成功することがあります。この微妙な操作は、私たちが解決しようとしている問題が難しい場合に機能します。個々の研究は、どれほど良く実施されていても、両方の側を支持する傾向があり、最終的に重要なのは全体の証拠の体です。しかし、私たちが使用する証拠を操作することだけが、私たちの行動を操作する方法ではありません。たとえば、プロパガンダを行う者は、広告がしばしば行うように、私たちの感情を利用することができます。感動、ノスタルジア、喜び、罪悪感、そして愛国心さえも、証拠とは無関係な操作のための道具です。たとえば、有名なマールボロマンの広告キャンペーンは、牛を追い立てるカウボーイの劇的な画像や、アメリカ西部の広大な風景を見つめる姿を含んでいました。これらの画像は、特定のタイプの男性が感情的な理由からマールボロのタバコを買いたくなるように仕向けます。テレビ番組「マッドメン」は、これらの感情的な訴えと、それが現代の西洋文化をどのように形成したかを探求しました。それでも、これらの種類の道具は非常に表面的なものです。感情的な操作を避けることは難しいかもしれませんが、それがどのように機能するかには大きな謎はありません。私たちはこのような影響について議論するのではなく、プロパガンダを行う者に利用可能な、より陰湿な道具のセットに注目したいと思います。

バーナイズの主な洞察の一つは、彼の著書や自身の広告・広報キャンペーンにおいて、信頼と権威が消費者の行動や信念を形成する上で重要な役割を果たすということでした。これは、科学者や医師、聖職者など、特別な権威を持つ社会のメンバーが特に影響力を持つことを意味します。バーナイズは、この影響力を利用すべきだと主張しました。

1920年代、バーナイズはビーチナッツ・パッキング社のためにキャンペーンを展開しました。この会社はベーコンの販売を増やしたいと考えていました。バーナイズによれば、アメリカ人は軽い朝食—コーヒー、ペストリーやロール、あるいはジュース—を好む傾向がありました。彼はこれを変えるために、「アメリカン・ブレックファスト」という概念を作り出し、ベーコンと卵を朝食の定番としました。彼は『プロパガンダ』の中で次のように書いています。

「新しい営業スタイルは、社会のグループ構造と大衆心理の原則を理解し、まず『誰が世界の食習慣に影響を与えるのか？』と問いかけます。答えは明らかに『医師』です。新しい営業マンは、医師に対して公にベーコンを食べることが健康に良いと述べるよう提案します。彼は、医師のアドバイスに従う人々が多数いることを数学的に確信しています。」

バーナイズは、ベーコンを含む「しっかりとした」朝食が軽い朝食よりも健康的であると公言する準備ができた医師を見つけました。彼はこの医師に、他の数千人の医師に送る手紙に署名するよう説得しました。その結果、多くの医師が彼の見解に賛同しました。この事実をバーナイズは全国の新聞に伝えました。実際にベーコンが有益であるという証拠はなく、バーナイズが実施した調査が科学的であったかどうかも不明です。彼が接触した医師のうち、実際にどのくらいの割合がその主張に同意したのかもわかりませんでした。しかし、それは重要ではありませんでした。重要なのは、この戦略がベーコンの販売を促進したことです。多くのタバコ会社も1940年代から1950年代にかけて、ある銘柄のタバコが他よりも健康的であるとか、医師が特定のブランドを好むといったキャンペーンを展開しましたが、これらの主張を裏付ける証拠はありませんでした。もちろん、科学的および医療的権威の影響力は両面に作用します。

正しい科学的主張が売上を助ける一方で、誤った主張は産業を壊滅させる可能性があります。オゾンホールの出現がCFCの世界的禁止につながった事例がその一例です。このような場合、広報キャンペーンは科学者や医師の権威を損なう以外に選択肢がありません。具体的には、実在するか架空の他の研究を持ち出して論争の感覚を生み出したり、偏見や不正当性の非難を通じて科学者を直接攻撃したりします。第1章で強調したように、権威の認識は、最も信頼できる科学に注目する正当な理由ではありません。最終的に私たちが気にかけるのは、最も信頼できる証拠に基づいて行動を起こすことであり、それによって私たちの望む結果を実現する可能性が高まります。理想的な状況下では、科学や医学の権威を持ち出すことも、損なうことも、何の違いもないはずです。重要なのは証拠です。しかし、現実は理想からは程遠いのです。私たちの多くは情報が不足しており、特定の科学研究を完全に理解するのに苦労します。また、前の章で指摘したように、科学者でさえも証拠の出所に注意を払って評価する必要があるケースが多々あります。私たちは専門家に頼らざるを得ません。しかし、証拠を評価する際の判断と権威の役割には暗い側面があります。信頼できる証拠の出所を特定することが難しくなるほど、私たちは根拠のない信念を形成する可能性が高くなります。まさにこの理由から、科学の権威や個々の科学者、さらには科学そのものの評判は、プロパガンダの標的になりやすいのです。

ロジャー・レヴェルは20世紀の最も著名な海洋学者の一人でした。第二次世界大戦中、彼は海軍に勤務し、最終的には指揮官の階級に昇進し、海軍研究所の所長を務めました。この研究所はレヴェルが設立に関わった科学的な機関です。彼は1946年にビキニ環礁で行われた原子爆弾の初回試験を監督しました。1950年、レヴェルはスクリップス海洋研究所の所長に就任しました。1957年、彼とスクリップスの同僚ハンス・スーセスは、重要な研究を発表しました。

Xl #48240  
Kindle for PC 4 - 誤情報の時代：誤った信念が広がる理由（英語版）  
Drtlb Rr BD  
S495)  
yb  
<ms  
AW? S) Bh. Vv Aa  
wa  
ee  
Hos wv  

おそらく彼らのキャリアの中で最も影響力のある記事でした。これは、二酸化炭素が海に吸収される速度に関するものでした。物理学者たちは19世紀半ばから、二酸化炭素が現在「温室効果ガス」と呼ばれるものであることを認識していました。これは赤外線を吸収するため、地球の表面近くで熱を閉じ込めることができ、その結果、表面温度が上昇します。もしあなたが乾燥した砂漠の環境で過ごした夕方と湿度の高い環境で過ごした夕方を比較したことがあれば、まさにこの効果を直接体験したことがあるでしょう。乾燥した場所では、日が沈むと温度が急速に下がりますが、高湿度の地域ではそうではありません。同様に、私たちの大気中に温室効果ガスがなければ、地球ははるかに寒くなり、平均表面温度は約摂氏0度（華氏-18度）になるでしょう。

レヴェルとスエスが執筆していた時期には、スウェーデンのノーベル賞受賞者スヴァンテ・アーヘニウスとアメリカの地質学者T.C. チャンバリンによって提唱された仮説に関する50年の研究がすでにありました。この仮説は、大気中の二酸化炭素の量が地球の温度と直接相関しており、大気中の二酸化炭素の変動が氷河期のような気候の変化を説明するというものでした。イギリスの蒸気技師ガイ・カレンダーは、人間の活動によって生じた二酸化炭素が、19世紀半ば以降に急激に増加していることが、地球の表面温度の上昇に寄与していると提案しました。

しかし1957年、ほとんどの科学者は地球温暖化を心配していませんでした。人間の活動によって放出された二酸化炭素は海に吸収され、大気中の二酸化炭素と地球温度の変化を最小限に抑えるだろうと広く信じられていました。この主張をレヴェルとスエスは彼らの記事で反論しました。異なる材料に含まれる異なる種類の炭素の量を測定する新しい方法を使用して、レヴェルとスエスは二酸化炭素が海に吸収されるまでの時間を推定しました。

彼らは、ガスが大多数の科学者が計算したよりも大気中に長く残ることを発見しました。また、海洋がより多くの二酸化炭素を吸収するにつれて、その二酸化炭素を保持する能力が低下し、より高い割合で蒸発することも明らかになりました。これらの結果を組み合わせると、排出量が一定であっても、二酸化炭素のレベルは時間とともに着実に上昇することが分かりました。排出量が増加し続ければ、状況はさらに悪化することになります。実際、レヴェルとスースの論文が発表されてからの60年間、排出量は増加し続けてきました。

この研究は、科学者たちが温室効果ガスに対する自己満足を疑う良い理由を与えました。しかし、同じくらい重要だったのは、レヴェルが論文を書いた頃から始めた活動家としての姿勢です。彼はスクリップス海洋研究所で大気中の二酸化炭素に関するプログラムを立ち上げ、チャールズ・デイビッド・キーリングという化学者をそのリーダーに雇いました。その後、レヴェルはキーリングが大気中の二酸化炭素レベルに関する体系的なデータを収集するための資金を得る手助けをしました。キーリングは、平均的な二酸化炭素レベルが着実に増加していることを示しました。これはレヴェルとスースが予測した通りであり、増加率は人間の活動によって大気中に放出される二酸化炭素の量と強く相関していました。

1965年、レヴェルはハーバード大学に移りました。そこで、彼はアール・ゴアという若い学部生に出会いました。ゴアはレヴェルの授業を受け、気候変動に対して行動を起こすように刺激を受けました。ゴアはその後、アメリカ合衆国の下院議員、そして後に上院議員となりました。1988年の大統領選挙では失敗しましたが、彼は「地球の均衡」という本を書き、そこで人間の活動が地球の気候に深く影響を与えるという信念をレヴェルに帰しました。この本は1992年に出版され、ゴアが副大統領候補として民主党の指名を受ける数週間前のことでした。ゴアの本は環境問題を選挙の中心に据える手助けをしました。そして、彼はより良い環境政策のための効果的で率直な擁護者として自らを際立たせました。ゴアのメッセージに対抗しようとする者たちは、ゴアの考えを変えることはほぼ不可能であり、副大統領候補として彼を黙らせることもできませんでした。代わりに、彼らはレヴェルを通じて異なる戦略を採用しました。

1990年2月、レヴェルは世界最大の一般科学団体であるアメリカ科学振興協会の年次総会で講演を行いました。彼が話したセッションは気候変動に関連する政策問題に特化しており、レヴェルの講演は地球温暖化の影響をどのように軽減できるかについてでした。その後、第一章で述べた酸性雨レビュー委員会のメンバーであるフレッド・シンガーがレヴェルに接近し、講演に基づいて共同執筆する記事に興味があるかどうか尋ねました。その後の出来事は物議を醸し、数多くの矛盾した意見記事や記事の対象となり、少なくとも一件の名誉毀損訴訟が起こりました。しかし、明らかなこともあります。1991年、シンガーを第一著者、レヴェルを共著者とする記事が「コスモス」という雑誌の創刊号に掲載されました。この記事は（元の強調をもって）「温室効果による温暖化の科学的根拠は、現時点での drastic action を正当化するには不確かすぎる」と主張しました。（このメッセージが酸性雨に関するシンガーの主張と同じであるのは、そのためです。）

レヴェルがこの主張を本当に支持していたかどうかは、はっきりしませんでした。この主張は彼の人生の仕事と多くの点で矛盾していたからです。（レヴェルは、記事が印刷された直後の1991年7月15日に亡くなったため、記録を訂正する機会はありませんでした。）

確かに、レヴェルが引用された文を執筆したわけではありません。「コスモス」に掲載されたのは、シンガーが以前に単独著者として「環境科学と技術」という雑誌に発表した論文の拡張版であり、「コスモス」の記事の全体の文や段落は、ほぼそのまま再現されていました。引用された文もその中に含まれていました。

シンガーは、レヴェルが完全な共著者であり、最終原稿にアイデアを提供し、そのメッセージを支持したと主張しました。しかし、他の人々は異議を唱えました。レヴェルの個人秘書と長年の研究助手は、レヴェルが関与することに消極的であり、テキストにはほとんど何も貢献しなかったと主張しました。

彼らは、記事が最終化されたとき、レヴェルが最近の心臓手術の影響で弱っていたため、シンガーが彼を利用したのではないかと主張しました。シンガーは、これらの発言に対してレヴェルの研究助手であるジャスティン・ランカスターを名誉毀損で訴えました。この訴訟は1994年に和解され、ランカスターはレヴェルが共著者でないという主張を撤回することを余儀なくされました。2006年、和解の条件により10年間コメントを控えていたランカスターは、自身の撤回を撤回し、個人のウェブサイトで「1994年の撤回を完全に撤回し、否定する」との声明を発表しました。シンガーは、2003年に発表した「レヴェル・ゴア物語」というエッセイの中で、ランカスターの主張とは重要な点で異なる自身のバージョンの物語を語りました。

しかし、最終的にはレヴェルの信念は重要ではありませんでした。彼の名前が記事に掲載されたことが、ゴアの環境政策を揺るがすのに十分だったのです。1992年7月、ニューリパブリックのジャーナリスト、グレッグ・イースターブルックはコスモスの記事を引用し、「『地球の均衡』は、昨年の死の前にレヴェルが発表した論文を言及していない。その論文では『温室効果による温暖化の科学的根拠は、 drastic actionを正当化するには不確かすぎる』と結論づけている」と書きました。数ヶ月後、保守派のコメンテーター、ジョージ・ウィルもワシントン・ポストでほぼ同じことを述べました。これは壊滅的な反論でした。レヴェルは、ゴアの選んだ専門家でありながら、明確にゴアの立場を否定したように見えたのです。改革党の候補者ロス・ペロの副大統領候補であるジェームズ・ストックデール提督は、後に副大統領候補討論会でこの問題を取り上げました。「私は、ゴア上院議員のメンターが彼の本にある科学データのいくつかに異議を唱えたと読んだ。そういった批判にどう応えるのか？」とゴアに尋ねました。ゴアは最初は観客の笑い声の中で応答しようとしましたが、レヴェルが「彼の発言は死の直前に完全に文脈から外されていた」と主張したときには、ブーイングと嘲笑を浴びました。彼は愚かに見え、環境活動家としての姿が naïve に映りました。ゴアに起こったことは、評判の武器化でした。

温室効果ガスの問題は、ロジャー・レヴェルや彼の意見とは無関係です。私たちが懸念すべきなのは、二酸化炭素の濃度が急速に上昇しているという強い証拠があること、二酸化炭素の増加が地球の気候に劇的な変化をもたらすこと、そして温室効果ガスの排出が続けば（実際、すでにそうなっている）巨額の人間的コストが発生することです。何がいつ起こるかについてはまだ不確実性がありますが、その不確実性は両方向に働きます。私たちが地球温暖化のコストを過小評価している可能性は、過大評価している可能性と同じくらい高いのです。（科学者たちがCFCの危険性を過小評価していたことを思い出してください。）

さらに、コスモスの記事の結論は頻繁に引用されましたが、その結論を支持する証拠はイースターブルックやウィルの文章では議論されていませんでした。実際、その記事は全く新しい議論を提供していませんでした。もしレヴェルが地球温暖化について考えを変えるに至る壊滅的な新証拠を持っていたのなら、それは確かに提示されるべきでした。しかし、そうではありませんでした。ゴア自身は、レヴェルの権威に基づいて環境主義を高めていました。これにより、シンガーやウィル、ストックデール、そしてその後コスモスの記事を引用した多くの人々は、ゴアを攻撃する新たな根拠を得ました。実際、ゴアに賛同する傾向のある人々は、この種の議論に特に弱いのです。なぜなら、彼らこそがレヴェルの意見に特別な信頼性を与える人々だからです。

シンガーや他の人々がレヴェルの評判を利用してメッセージを拡大した詳細は、特別なケースのように見えるかもしれません。しかし、この極端なケースは、科学における産業プロパガンダの歴史において持続的な役割を果たしてきたパターンを最も明確に示しています。それは、証拠の出所の評判に応じて私たちがどのように信念を変えるかに依存していることを示しています。プロパガンダのメッセージは、私たちが信頼できると思う声から発信されるときに最も効果的です。

科学者の評判を利用することは、タバコ業界の戦略において不可欠な部分でした。業界の幹部たちは、TIRC（タバコ産業研究委員会）に著名な科学者を配置しようとしました。

彼らは、C.C.リトルという著名な遺伝学者を採用し、その活動に権威と信頼性を与えるために彼の科学的な資格を重視しました。同様に、彼らは尊敬される専門家を含む「独立した」科学顧問委員会を設立しました。これらの取り組みは、TIRCを尊敬される存在に見せ、業界寄りのメッセージをより受け入れやすくすることを目的としていました。これは、選択的な情報共有が偏った情報の提供や産業選択よりも効果的である理由の一つです。研究者が業界から独立しているほど、その権威は増します。たとえプロパガンダを行おうとする者が独立していなくても、独立しているかのように振る舞うことには利点があります。

例えば、2009年にフレッド・シンガーは、保守的なシンクタンクであるハートランド・インスティテュートと協力して、気候変動に関する国際的な非政府パネル（NIPCC）というグループを設立しました。NIPCCは、国連の気候変動に関する政府間パネル（IPCC）に対するシンガーの回答です。2007年、IPCCはアル・ゴアと共に、気候変動に関する膨大な文献を体系的にレビューし、科学に関する具体的な合意評価を確立したことでノーベル平和賞を受賞しました。

NIPCCは、IPCCの報告書をモデルにした報告書を作成します。サイズや長さ、フォーマットは同じですが、もちろん結論は正反対です。IPCCは、世界で最も著名な気候科学者たちが参加する国際的な協力体です。一見するとNIPCCも同じように見えますが、もちろんIPCCのような権威は持っていません。このような取り組みは、政治的に敏感なトピックに関するストーリーの「反対側」を探しているジャーナリストを含む一部の人々を誤解させることは間違いありません。NIPCCのような明白なものを見抜くのは難しくありません。一方で、本当に著名な科学者が政治的な擁護に回ると、その評判が彼らに大きな力を与えます。

例えば、第一章で言及されたマーシャル研究所の創設者には、レヴェルがハーバード大学に移った後にスクリップス研究所の所長に就任したニーレンバーグ、NASAのゴダード宇宙研究所の初代所長ロバート・ジャストロウ、そしてアメリカの主要な生物医学研究機関であるロックフェラー大学とナショナルアカデミーオブサイエンスの元会長フレデリック・セイツが含まれています。これらの科学者たちは、それぞれの分野で重要な貢献をしており、その評判は彼らを専門知識が少ない分野でも影響力を持つ立場に置いていました。第一章で見たように、ニーレンバーグはスクリップスの元所長でありナショナルアカデミーオブサイエンスのメンバーであるという地位が、酸性雨のピアレビュー・パネルの議長を務める資格を与え、さらにその執行声明を修正する機会を与えました。

これらの男性の評判は、他の科学者を批判する特別な立場にも彼らを置きました。最も顕著な例は、1995年に発表されたIPCCの第二次評価報告書（NIPCCではない）の後に現れました。この報告書には、初めて「フィンガープリンティング」として知られる手法に関する章が含まれており、人間の活動による気候変動と太陽のサイクルや火山活動などによって引き起こされるものを区別するための方法が紹介されました。このトピックに関する章は、著名な科学者たちの協力によって書かれましたが、資料をまとめて全体の章を調整する「主導著者」はアメリカの気候科学者ベン・サンターでした。サンターはこの役割を引き受けたときには比較的若手でしたが、フィンガープリンティング手法においてすでに重要な貢献をしており、章をまとめるのに理想的な立場にありました。しかし、報告書が発表された後、セイツや他の人々は攻撃を始めました。ウォールストリートジャーナルに掲載された社説の中で、セイツはサンターが「政策立案者を欺く」ために最終報告書を変更したことで科学的プロトコルに違反したと非難しました。しかし、サンターが章の遅れた修正を調整したことは事実ですが、それはIPCCの議長バート・ボリンの指示に基づき、ピアレビューからのコメントに応じて行われたものでした。

違反というよりも、実際には科学的プロトコルによって義務付けられていたのです。サイツの手紙は、その内容が示す通りでした。アメリカで最も著名な物理学者の一人が、はるかに若い研究者を公然と非難しているのです。「報告書の主著者であるベンジャミン・D・サンターは、主要な責任を負うべきだ」とサイツは書いています。ボリンと他の40人の科学者たちは、サイツの主張を否定し、サンターの研究が適切であったと主張する手紙に署名しました。それに対してサイツとシンガーは、元の非難をほぼ繰り返す形で応じましたが、今度はIPCC全体が関与しているという含意を持たせました。ボリンの反応に署名した40人の国際的に認められた気候科学者たちがサンターを擁護したことで、サンターの評判を高めるのに十分だったかもしれません。しかし、それが正しいとしても、最終的には双方の権威の誇示が見られ、事実だけでなく科学的方法そのものについても実際には何の論争もなかったのに、真の論争があったかのように示唆されました。タバコ産業が示したように、論争の外見を作り出すことは、しばしばプロパガンダを行う者が必要とするすべてです。

評判の武器化は、前の章で議論した極化モデルと深く関連しています。そのモデルでは、重要な要素は信頼でした。私たちが信頼する意見を持つ人々が、私たちに最も影響を与えることができました。そして、私たちがある人々をより信頼し、他の人々をあまり信頼しなくなるにつれて、グループは分岐し、極化した結果を生むことになりました。私たちが信頼の代理として使用したのは、その問題に関する信念の違いでした。これは、極化がどのように生じるかの重要な部分を捉えており、評判がプロパガンダを行う者にとってどのように役立つかのいくつかの側面も説明しています。結局のところ、レヴェルは気候変動に関する影響力のある研究によって多くの人々に賞賛されていました。そして、そうした人々がそのトピックに関して彼と意見が一致していたため、彼が提供する証拠を非常に真剣に受け止める準備ができていたのです。（少なくとも、ゴアが彼に同意したという事実は、ゴア自身がレヴェルの意見を真剣に受け止めるべきであることを示唆しています。）イースターブルックとウィルが新たな証拠があることを示唆したとき、

このモデルでは、グループが一つの問題だけでなく、複数の問題に取り組む場合の信頼の形成について考察しています。科学者たちが二つの異なる問題を解決しようとしていると仮定しましょう。一つの問題では行動AとBの選択を、もう一つの無関係な問題では行動YとZの選択を考えています。各問題について信頼する相手を決める際、彼らは両方の問題に関する自分の信念を考慮します。

このモデルの基本的なダイナミクスは以前と同じです。各科学者はジェフリーズのルールを用いて、証拠に対して確信が持てないときに信念を更新しますが、ここでは一人の証拠に対する不確実性が両方のトピックに関する信念の距離に依存します。

このモデルでは、グループが一つの問題だけのときと同様に極端に分極化することがわかります。しかし、驚くべきことに、分極化が進むと、両方の問題に関する信念が高く相関するサブコミュニティが形成される傾向があります。例えば、全員がAとZを支持するサブコミュニティや、全員がBとYを支持する別のサブコミュニティが見つかります。重要なのは、真実の信念が必ずしも相関するわけではなく、モデルによってはそれぞれのコミュニティが一つの真実と一つの誤信を持つケースも多く見られます。

これらのモデルは、グループのメンバーの意見に影響を与える一つの方法として、他のトピックで既に合意している誰かを見つけ、その人に自分の支持する立場を裏付ける証拠を共有させることが有効であることを示唆しています。

人々は、科学者が他の問題で成功した実績を基に、その科学者の一般的な信頼性を判断するという考え方があります。つまり、ある科学者は「行動AとBについてはあまり確信が持てないが、行動ZがYよりも優れていることには確信がある。他の科学者が行動Zについて私と同じ意見を持っているなら、その人の行動AとBに関する証拠も信頼できるだろう」と考えるかもしれません。

このような効果は、武器化された評判がどのように機能するかを説明する手助けとなります。私たちは、他の問題を解決するのに成功した人々を見て、彼らの証拠を評価する際により信頼を寄せます。確立されたキャリアを持つ科学者は、過去に多くの成功を収めてきたことを示すことができるでしょう。さらに、彼らの同僚である他の科学者たちも、彼らの過去の業績を評価し、それが強く信頼できるものであると認めています。確立された科学者が新しい証拠や議論を提示する際には、たとえそれが彼らの評判を築いた分野とは全く無関係なトピックであっても、私たちは彼らを信頼する理由があります。実際、科学哲学者のジェフリー・バレット、ブライアン・スカイアムズ、アヤディン・モフセニは、ネットワーク認識論のモデルを用いて、過去の信頼性に注目することがコミュニティの信念の正確性を大幅に向上させることができることを示しています。ただし、もちろん誰も評判を「武器」として利用していないという前提があります。

このような結果は、セイツのような人物が気候変動など、彼の以前の研究とはかなりかけ離れた問題においても影響力を持つ理由を説明する手助けにもなります。信頼の問題は、目の前の問題やより一般的な問題において、評判がなぜ一部の人々に過剰な影響力を与えるのかを説明する重要な役割を果たしています。しかし、これが全ての理由ではないことも見て取れるでしょう。コンフォーミティ（同調）やネットワークの構造も、プロパガンダにおける評判の社会的役割を理解するためには重要です。

1689年にイギリスの貴族に生まれたレディ・メアリー・ワートリー・モンタギューは、その才覚と美しさで知られていました。ロンドンのキット・キャット・クラブは、哲学者ジョン・ロックを含むメンバーが在籍しており、彼女をその年の美しさとして選出したこともあります。しかし、25歳の時、彼女は天然痘にかかってしまいました。

彼女はそれを生き延びることができて幸運だった。当時、天然痘は感染した人の20〜60％を殺していた。彼女の兄も、わずか2年前にその病にかかって亡くなっていた。しかし、その傷跡は彼女の伝説的な美しさを台無しにしてしまった。その後、レディ・メアリーは夫エドワード・ワートリー・モンタギューがイギリス大使に任命された際にトルコへ旅立った。彼女はトルコの文化に魅了され、華やかなショッピングセンターや、ペルシャ絨毯で覆われた部屋、裸の女性たちがコーヒーやジュースを飲む浴場などを目にした。これらはイギリスでは見られない光景だった。

旅の途中で、レディ・メアリーはもう一つの奇妙な慣習に出会った。それは天然痘のバリオレーション（接種法）である。これは現代のワクチン接種の一形態で、通常は人の腕を引っかき、天然痘の膿疱からのかさぶたや液体を傷口に擦り込むという方法だった。結果として感染によって少数の人が亡くなることもあったが、大多数は非常に軽い形の天然痘を経験し、その後免疫を獲得した。トルコ文化への魅力と自身の天然痘の経験が相まって、レディ・メアリーはこの慣習に特に受け入れやすかった。イギリスの外科医チャールズ・メイトランドと古いトルコの看護師の助けを借りて、彼女は自分の幼い息子に成功裏にバリオレーションを施した。

1721年に帰国すると、彼女はイギリスでバリオレーションを推進し始めた。しかし、医師たちからは大きな抵抗に直面した。多くの人にとって、この慣習は奇妙で、さらには野蛮にさえ思えた。さらに悪いことに、女性が他の女性、しかも外国人によって開発された治療法を推奨しているという事実もあった。トルコで治療を手伝うことに喜んでいたメイトランドも、イギリスの医師仲間の目の前でそれを行うことに不安を感じていた。ロンドンの新聞では、バリオレーションが安全で効果的かどうかについて激しい議論が交わされていた。その時、イギリス全土で天然痘の流行が命を奪っていたため、事態は非常に深刻だった。レディ・メアリーが考案した解決策は見事であり、医師たちがバリオレーションに対して抱いていた疑念と同じような従順な傾向に訴えかけたからこそ成功したのだった。

彼女は、イギリスで最も尊敬されている人物の一人が、自分の子供たちにその実践を行うことをいとわなかったことを示そうとしました。1722年、メアリー夫人の要請により、当時ウェールズの王女であり、イギリスの皇太子と結婚していたカロリーヌ・オブ・アンスバッハは、二人の娘にバリオレーション（接種）を施しました。この実演は、バリオレーションの安全性に関する直接的な証拠を提供しましたが、より重要なのは、イギリス市民に対してそれを採用すれば良い仲間がいることを示した点です。この実践は、特にメアリー夫人やカロリーヌ王女と個人的なつながりのある英貴族の間で急速に広まりました。バリオレーションの普及は、その成功や安全性に関する新しい知識とはほとんど関係がありませんでした。むしろ、社会的な圧力によって最初は避けられ、後に貴族の間で王女や彼女の友人たちの信念や実践を共有するという社会的圧力によって広がったのです。

このエピソードでは、社会的圧力が真実の信念を広めましたが、メアリー夫人が仲間たちを説得したメカニズムは、プロパガンダが社会的ネットワークを利用する重要な方法を反映しています。前章で説明したように、信念や行動における同調の役割を思い出してください。人々は一般的に、自分の信念や行動を周囲に合わせることを好み、この傾向はコミュニティ内で情報の流れを根本的に変えることがあります。真実の信念を持ちながらも、社会的な非難を恐れてその信念を支持する証拠を共有しない人々は、良いアイデアの広がりを妨げます。これはセメルワイスのケースでも起こり、当初イギリスでのバリオレーションの普及を遅らせた要因でもありました。しかし、私たちは第2章で、科学者のコミュニティにおける同調の影響は、科学者同士のつながりのネットワークの構造に依存することも主張しました。そのようなネットワーク構造の一つが「ホイール」であり、一人の個人が多くの他者とつながり、その人たちが再びその中心人物に接続される形です。実際の社会的ネットワークはホイールと正確には似ていませんが、しばしばホイールの中心にある星のようなサブ構造を持っています。

一部の個人は、他の人々と不均衡に多くのつながりを持っており、そのために大きな社会的影響力を持っています。彼らの行動は、多くの人々の行動に影響を与える傾向があります。また、上で述べた評判の操作の例とも密接に関連しています。キャロライン王女は著名な科学者ではありませんでしたが、彼女が生きていた時代には、貴族、特に王族の優位性が当然のこととされていました。彼女の高い社会的地位に対する評判があったからこそ、多くの英国貴族が彼女とつながりを持ち、自らの行動を彼女に合わせようとしたのです。このような同調は、上で述べた科学的評判のいくつかのケースでも見られます。サイツのような人物は、その評判に基づいて、他の人々が読む記事や社説を書く立場にあり、そうすることで比較的つながりのない多くの人々に影響を与えることができました。サイツはすべての読者と個人的なつながりを持っていたわけではありませんが、大手新聞の意見記事の役割は、少なくとも短期間、誰かを中心に据えることです。同様に、レヴェルは多くの支持者を持ち、アメリカ合衆国の未来の副大統領を含む多くの人々が彼の意見に注意を払っていました。彼の評判は、学術的な業績や証拠を集め評価する能力に基づいていましたが、彼のようになりたい、環境科学や政策の発展に影響を与えたいという欲望も一因だったでしょう。社会的な中心にいる影響力のある人々をターゲットにするプロパガンダ活動家は、私たちの同調する傾向を利用することができます。彼らが一人の主要な影響者を説得して信念や行動を採用させるたびに、その影響者が模倣しようとする他の人々を説得することが期待できます。メアリー夫人の戦略の天才は、彼女が無差別にイングランド中のマルタやジョージに変異接種について話すのではなく、最も裕福で影響力があり、つながりのある人々をターゲットにしたことにあります。

彼女は星の中心を見つけ、その人々に新しい習慣を採用させることに成功しました。彼女は、そうなればバリオレーション（接種）が自然に広がるだろうと賢く考えたのです。

図14は、信念が星のネットワーク内でどのように広がるかを示しています。暗いノードは一つの行動を、明るいノードは別の行動を表しています。中央の個人は、互いに接続されていない多くのエージェントとつながっています。この中央の個人は、ネットワークの他の部分に特別な社会的影響力を持っています。

図14は、非常に単純化された方法で、こうしたことがどのように展開されるかを示しています。均一な信念を持つネットワークにおいて、中央の個人が信念を変えると、その人は周辺の個人に強い同調的影響を及ぼし、彼らも信念を変える可能性が高くなります。影響力のある人々をターゲットにして新しい習慣や信念を広めることは、プロパガンダが私たちの同調傾向を利用する一つの方法です。

現代におけるバリオレーションの類似例であるワクチン接種は、同調的影響が働いている典型的なケースです。レディ・メアリーの時代と同様に、ワクチン接種によって子供を病気から守ることの安全性や賢明さに疑問を持つ「反ワクチン派」と呼ばれる人々が存在します。驚くべきことに、これらの人々は、物理的および社会的な近隣で集まり、議論の不快感を避ける傾向があります。例えば、カリフォルニアの一部の裕福な地域では、州の平均が85％を超える中、ワクチン接種率が20％にまで低下しています。

2017年、ミネソタ州の緊密なソマリア系アメリカ人コミュニティでは、1980年代以来最悪の麻疹のアウトブレイクが発生しました。このグループで重度の自閉症の割合が特に高いことが分かると、反ワクチンの支持者たちは、ワクチン接種に対する警告を含むチラシや広告をソマリア系コミュニティセンターに配布しました。また、地域の健康会議でもパンフレットを配布しました。ワクチンと自閉症の関連を最初に不名誉にも、そして虚偽に報告した科学者アンドリュー・ウェイクフィールドもミネソタを訪れました。

2010年と2011年に、ミネソタ州アポリスで自閉症の子どもを持つソマリの親たちと話すために何度も訪問しました。その結果、コミュニティのワクチン接種率は2004年の92％から2014年には42％にまで低下し、麻疹の流行を引き起こしました。流行が発生した後も、ミネソタ州のワクチン安全評議会という反ワクチン団体は、MMRワクチンと自閉症に関する誤情報を広めるイベントを開催し、活動を続けました。さらには、反ワクチン派の人々が戸別訪問を行い、麻疹の流行は実際には保健局によって引き起こされたものであり、彼らの目的はソマリの人々に子どもをワクチン接種させることだと説得しようとする報告もあります。

ここで見られるのは、反ワクチン派が証拠に全く裏付けられていない自らの信念を、特にそのメッセージに影響を受けやすい密接なコミュニティに広めているということです。彼らは、同じ情報を仲間に広めることで、特にその話題について議論し、受け取ったメッセージを強化する可能性が高い人々に働きかけています。ミネソタ州のソマリコミュニティは、より大きなグループに埋め込まれた非常に結束の強い集団の典型的な例です。

もし複数の仲間が同時に新しい考え方に賛同すれば、通常の変化に対する抵抗が逆に新しい実践を促す方向に利用されます。そして、グループの多くのメンバーがワクチン接種をしないことを決めると、そのグループ内の社会的影響によって、その決定は一人の勇気ある人が流行に逆らうよりもはるかに安定したものになります。

図15は、これがどのように見えるかを示しています。もしグループの数人が行動を変えると、残りのメンバーに変化を促す圧力がかかり、全員が同意すれば、コンフォーミティ（同調）がグループ全体をその状態に保つことになります。図15では、完全に接続されたネットワークにおける信念の広がりを示しています。暗いノードは一つの行動を表し、明るいノードは別の行動を表しています。このネットワーク内で複数の個人が行動を変えると、隣人と同調したいという欲求から、残りのグループにも変化を促す圧力がかかります。一度変わると、そのグループは比較的安定した状態になります。この章では、プロパガンダを利用して私たちが情報を共有し、互いに学ぶ方法をどのように利用して信念や行動を操作するかについて考察しました。

私たちが第2章で見たのと同じメカニズムは、真実を発見する手助けをする一方で、時には私たちを誤った方向に導くこともあります。これらのメカニズムは、私たちの信念に影響を与えるためのレバーとして機能します。私たちは、プロパガンダを行う者がこの種の操作に成功する方法がいくつかあると主張してきました。それは、あなたが望む結果を正確に示す科学的結果を作り出すという粗雑な方法から、科学コミュニティが時折偽の結果を生み出す傾向を利用するという微妙な方法まで多岐にわたります。そして、そうした結果を共有したり、偽の結果を生み出す可能性が高い科学者を選び出して、彼らに追加の資金を提供することも含まれます。

また、プロパガンダを行う者は、特定の理由で特別な影響力を持つコミュニティのメンバーをターゲットにすることで影響を及ぼすことができると主張しました。ロジャー・レヴェルやベン・サンターなどのケースでは、この方法の一部は、コミュニティから特に信頼されている人物を特定することを含んでいました。たとえば、他の問題において非常に高い成功率を持つ科学者は、これらの科学者の以前の研究に影響を受けた他の人々を説得することができます。

関連する方法として、特に社会的ネットワークの中でつながりのある地位にいる個人やクリークをターゲットにして、同調を武器として利用することがあります。これまで私たちは主に科学コミュニティに焦点を当て、科学者から他の人々への情報の広がりについて考えてきました。しかし、科学者の信念に影響を与えるのと同じ効果が、社会全体でもしばしば劇的な形で働いています。次の章では、日常の信念に対する社会的要因の影響を理解するために、私たちが提示してきた絵を広げていきます。

---

第4章
社会的ネットワーク

2016年12月4日の日曜日、28歳の男性が、ある施設の内部で…

エドガー・マディソン・ウェルチは、妻と二人の娘に「少し用事がある」と告げて家を出ました。彼は車に乗り、ノースカロライナ州サリスベリーの自宅から約6時間かけてワシントンD.C.のピザ屋に向かいました。彼はAR-15半自動ライフル、ハンドガン、ショットガンをすべて弾薬を装填した状態で持っていました。午後3時頃、AR-15を持って店に入り、発砲しました。

ウェルチは自分が英雄だと思っていました。彼は、コメット・ピンポンというピザ屋が、元民主党大統領候補のヒラリー・クリントンが率いる国際的な児童売春リングの拠点であると信じていました。ウェルチはこのピザ屋を調査し、可能であれば子供たちを救うためにそこにいました。約1ヶ月前、2016年の選挙の直前に、FBI長官のジェームズ・コミーはヒラリー・クリントンが国務長官時代に使用していたプライベートメールサーバーに関する調査を再開することを発表しました。コミーが以前にこの調査を終了し、起訴を勧めなかったことが、教皇フランシスがドナルド・トランプを大統領候補として支持するきっかけとなったと報じられています。

コミーの発表の理由は、クリントンのトップ補佐官の自宅から押収されたコンピュータに新たなメールが存在する可能性があったためです。その状況は不穏でした。このコンピュータは、最近15歳の少女に自分のヌード写真を送信したとして非難された元議員アントニー・ウィーナーのものでした（ウィーナーは最終的に未成年者へのわいせつ物の送信を認めました）。ウィーナーの妻、フマ・アベディンはクリントンのトップ補佐官でした。2日後、ソーシャルメディアサイトのツイッターに投稿された内容は、実際にはそのメールがクリントンのサーバーを通じて機密情報が流出したという元の主張よりもはるかに悪いことを明らかにしていると主張しました。「NYPD（ニューヨーク市警察）の情報源」を引用し、ツイートはその内容を伝えました。

メールには、ヒラリー・クリントンが「国際的な児童奴隷制と性犯罪の首謀者」として名指しされていました。このツイートは翌週に6,000回以上シェアされました。翌日、YourNewsWire.comというウェブサイトに「FBIの内部告発者」が、米国政府の多くの人々、特に現職の議員やもちろんヒラリー・クリントンに関連する児童性的搾取リングの疑惑を確認したと主張する記事が掲載されました。この話はすぐに他のブログやニュース集約サイトでシェアされ、複数の新しいフェイクニュースの話題となりました。これらの中にはYourNewsWire.comの記事をそのまま再現したものもあれば、新しいテキストや新たな主張、内部情報の新しい証言を含むものもありました。あるウェブサイト「Subject: Politics」は、NYPDがクリントンの不動産を「襲撃」し、さらなる有害な資料を発見したと主張しました（そのような襲撃は実際には行われていません）。

これらの記事の直後、オンラインの調査者たちは、クリントンの選挙キャンペーンの責任者（元ビル・クリントンの首席補佐官）であるジョン・ポデスタから盗まれたと思われる一連のメールなど、他の公に入手可能な資料を調査し始めました。これらのアマチュア調査者たちは、ポデスタのランチオーダーに隠されたコードを発見したと信じるようになりました。「チーズピザ」という言葉は「児童売春」と同じイニシャルを持っていることから、彼らは翻訳マニュアルを作成しました。「ホットドッグ」は「少年」を意味し、「パスタ」は「小さな男の子」、「ソース」は「オルジー」を意味するとされました。

すぐに、Redditというウェブサイトに「ピザゲート」というタイトルのディスカッションボードが登場し、これらの主張が議論され、新しい「証拠」が持ち出されました。他の議論は、4chanなどの右派の若者に人気のあるウェブサイトでも続きました。特に困惑させられる推論として、このコミュニティは、ピザに関連する用語が彼らの「コード」に含まれているため、売春リングはピザ屋から運営されているに違いないと考えました（はい、本物のピザ屋です—それはコードではありませんでした！）。すぐに彼らは場所を特定しました：ワシントンD.C.のコメット・ピングポンという店で、クリントン家との関係がある男性が所有していました。

Vv Aa rt ow WN
Ee
かつて、クリントン支持のメディア監視団体「Media Matters for America」のCEOと交際していた人物が、ポデスタがよく訪れていた場所であることが知られていました。（彼らの調査によると、ポデスタは魔女術を実践し、人間の犠牲者の血を飲んでいたともされています。）これらの奇妙で根拠のない主張は、すぐにインターネットの暗い裏側を越えて、ドレッジ・リポートやインフォワーズといった比較的主流の右派メディアに広がりました。インフォワーズは信頼できる情報源とは言えませんが、非常に多くのフォロワーを持っています。創設者で主要な声であるアレックス・ジョーンズは、YouTubeで200万人以上、Twitterで73万人以上のフォロワーを抱えており、噂を広めることでその影響力を大幅に増加させました。（彼は後にこの一連の騒動における自らの役割について謝罪しました。）*

やがて、そのピザ店には暴力を脅迫する電話が殺到し、オンラインには主張を反映した不適切なレストランの「レビュー」が数百件も投稿されました。11月末までには、この話題は多くの注目を集め、ニューヨーク・タイムズやワシントン・ポストを含む主流のニュースソースがその主張を否定する記事を掲載しましたが、予想通り、これが陰謀論へのさらなる注目を呼び起こし、否定派を反論しようとする記事や動画も増えました。*

ウェルチはこの頃、これらの理論に気づくようになりました。彼は最初、ノースカロライナの友人からその話を聞いていましたが、ワシントンD.C.に向かう数日前に自宅にインターネットサービスを導入したことで、ピザゲートの主張について自分で調べることができました。彼が見つけた情報は非常に不安を感じさせるものでした。彼は「何か悪いことが起こっているという印象を受けた」—そして他の誰もそれに対処していないと感じました。彼は自ら行動を起こすことに決めました。前の三章では科学に焦点を当ててきました。序章で説明したように、その理由は、科学コミュニティにおいて関与するすべての人々が、世界について学ぼうとしていることが比較的明確だからです。彼らは、実際に何が起こったのか、そしてその物理的な原因を発見したいと考えています。

これらのコミュニティのメンバーは、確かに間違っていることもあり、しばしばそうである。しかし、彼らが証拠を集めて評価する仕事をしていることに疑いの余地はない。これにより、私たちのモデルがどのように適用されるかが特に明確になり、これらのコミュニティが間違った結論に至る可能性が多様であることが一層重要であることがわかる。

私たちが序論でも主張したように、科学は私たちが日常生活で試みていることの極端な例と考えることができる。ほとんどの人は科学者としての訓練を受けておらず、研究を行うために給料をもらっている人はさらに少ない。しかし、私たちはしばしば世界についての理解を深めようとしており、そのために科学者と同じ基本的な推論を用いている。私たちは自分の経験から学び、重要なことに、他者の経験からも学ぶ。私たち全員が世界や他者から学んでいる限り、科学者のコミュニティに関する私たちのモデルは、一般の人々のグループにも同様に適用される。特定の信念が広がるメカニズムは、一般の人々の中でも同様に機能している。そして、これらのメカニズムを理解し、それが他者の目的にどのように利用されるかを知ることは、今日のアメリカ、イギリス、そして西ヨーロッパの政治状況について多くのことを教えてくれる。

例えば、アメリカの公衆は多くの問題で深く分裂している。これには、この本で議論されているトピックのいくつか、例えば地球温暖化が含まれる。しかし、アメリカ人は、オバマケアとして知られる医療保険制度改革法（Affordable Care Act）が今後の医療政策の基盤となるべきか、それとも完全に異なる政策に置き換えられるべきかについても意見が分かれている。また、イランが核兵器プログラムを放棄することに合意した多国間条約を放棄すべきか、自由貿易協定が最終的に国の経済状況を改善するかどうか、政府が銃をどの程度規制すべきか（または法的に規制できるか）、法人税率や高所得者の税率を引き下げることが中間層の賃金成長を刺激するかどうかについても意見が対立している。これらのケースのほぼすべては、政策に関する意見の相違に寄与する基本的な事実についての不一致を特徴としている。

これらの意見の不一致は、人々が異なる情報源を信頼する傾向に起因しています。ある人々はMSNBCやニューヨーク・タイムズ、ワシントン・ポストを頼りにする一方で、他の人々はフォックス・ニュースやウォールストリート・ジャーナル、ワシントン・タイムズに目を向けます。また、ヘリテージ財団やケイトー研究所、ハートランド研究所が発表した研究を指摘する人もいれば、南部貧困法律センターやブルッキングス研究所、アメリカン・プログレスセンターを重視する人もいます。さらに、ブレイトバート・ニュースやインフォウォーズ、オルターネット、パーマー・レポートなど、あまり信頼できない情報源を挙げる人もいますし、RTやスプートニクのようにさらに悪化した情報源を指摘する人もいます。

友人や家族、同僚、特に他人が私たちの意見に反対すると、その不一致を相手の無知や感情的すぎる判断、あるいは愚かさに帰結しがちです。しかし、もしそれが本当ではないとしたら？あるいは、無知や感情が物語の一部に過ぎず、最も重要な部分ではないとしたら？私たちのモデルには感情は含まれていません。知性や政治的イデオロギーも含まれていません。私たちは、非常に単純で理想化されたエージェントが、主に合理的な方法を用いて自分たちの世界を学ぼうとする様子を描いています。そして、彼らはしばしば失敗します。さらに、彼らは成功を助ける社会的メカニズムを利用することで、簡単に失敗に導かれることもあります。

これらの社会的要因が「フェイクニュース」の広がりや、ワシントン・ポストやフォックス・ニュースといった主流メディアへの陰謀論の浸透の背後にあるとしたらどうでしょうか？「フェイクニュース」には長い歴史があり、特にアメリカでは顕著です。アメリカ独立革命の前後の数十年間、各派の支持者たちは、しばしば疑わしい主張や明らかな嘘で満ちた悪質なパンフレットを通じて対立相手を攻撃しました。同様に、フェイクニュースはスペイン・アメリカ戦争を引き起こしたとも言えます。1898年、キューバがスペインに対して反乱を起こしている間、アメリカの利益を守るためにハバナに派遣されたアメリカの戦艦USSメインが謎の爆発を起こした後、ニューヨーク・ワールドやニューヨーク・ジャーナルといったいくつかのアメリカの新聞は、これに関する報道を始めました。

『誤情報時代：誤った信念が広がる理由（英語版）』

センセーショナルな記事がスペインを爆発の責任者として非難し、復讐の戦争を要求しました。（実際の爆発の原因は今も議論の余地がありますが、スペインが関与していたという具体的な証拠は一度も示されていません。）最終的に、ニュースメディアからの圧力も一因となり、アメリカ政府はスペインに対してキューバを降伏させるか、さもなければ戦争に直面するという最後通告を出しました。それに対してスペインはアメリカに宣戦布告しました。（スペインはそれから3ヶ月も経たないうちに和平を求めました。）

1835年、政治的に保守的ではあるが一般的には信頼できる新聞『ニューヨーク・サン』は、イギリスの天文学者ジョン・ハーシェルが月に生命を発見したと主張する6本のシリーズ記事を掲載しました。記事はエディンバラの新聞から転載されたとされ、ハーシェルのいくつかの引用が含まれていました。さらには、ハーシェルが見たとされる翼のある人類のイラストも掲載されていました。言うまでもなく、月には生命は存在せず、ハーシェルもそれを発見したとは主張していませんでした。これらの記事は一度も撤回されることはありませんでした。（2017年6月にアレックス・ジョーンズのインフォウォーズラジオ番組に出演したゲストが、NASAが火星で子供の奴隷コロニーを運営していると主張したことと比較してみてください。）

9年後、エドガー・アラン・ポーは『サン』に、著名な気球操縦士モンク・メイソンによる大西洋横断の熱気球旅行を事実として描写した物語を発表しました。これも実際には起こりませんでした。（この記事は2日後に撤回されました。）

つまり、フェイクニュースは長い間私たちの周りに存在していました。しかし、何かが変わりました—過去10年の間に徐々に、そして2016年のイギリスのブレグジット投票やアメリカの選挙の前に突然。1898年、ニューヨーク・ワールドとニューヨーク・ジャーナルが戦争を煽り始めたとき、彼らは大規模な発行部数を誇っていました。ニューヨーク・ジャーナルは毎日125万人の読者を持っていると主張し、世界最大とされていました。（当時のニューヨーク市の人口は約340万人で、ジャーナルの数字は確かに誇張されているでしょうが、あまり大きくはないかもしれません：1900年のアメリカの新聞の合計発行部数によると。）

その年の国勢調査では、270万人以上の人々が報告されました。しかし、彼らの聴衆はほぼニューヨーカーだけで構成されており、しかも全てのニューヨーカーではありませんでした。より評価の高い「タイムズ」や「ヘラルド・トリビューン」、「サン」も広い読者層を持っていました。ニューヨーク以外の地域の新聞は、スペインとの戦争を呼びかける「ワールド」や「ジャーナル」の記事を一般的に取り上げることはありませんでした。これらの報道は確かに世論に影響を与え、戦争への道を進む一因となった可能性がありますが、その影響は金ぴか時代のメディア技術によって制限されていました。しかし、過去10年間でこれらの制限は消え去りました。2016年2月、フェイスブックは、同サイトで活動している15億9000万人のユーザーが、平均して3.59度の隔たりで互いに繋がっていると報告しました。さらに、この数字は縮小しています。2011年には3.74でした。また、分布は偏っており、平均値が示すよりも多くの人々がより密接に繋がっています。ピュー研究所によれば、アメリカの成人の68％がフェイスブックを利用しており、これはインターネットを利用するアメリカの成人の79％の中に含まれています。一方、ツイッターはアメリカで毎月約7000万人のユーザーを持ち、これはアメリカの成人の約30％に相当し、世界全体では約3億3000万人のユーザーがいます。フェイスブックやツイッターに投稿され、広く共有される情報は、アメリカや他の西洋の民主主義国における投票公衆の大部分に届く可能性を秘めています。偽ニュースは新しいものではありませんが、今やかつてないほど広がることができます。これにより、より危険な状況が生まれています。しかし、実際にソーシャルメディアで投稿され、共有され、いいねを押されるような衝撃的なストーリーを誰が本当に信じているのでしょうか？これらのストーリーの持続性には他の説明があるかもしれません。おそらく、ある人々はそれを面白いと感じたり、信じられないと思ったり、皮肉的に共有したりするのかもしれません。あるいは、内容が虚偽であることを知りながらも、そのストーリーがあるトピックに対する自分の感情を反映しているために共有する人もいるでしょう。多くのインターネット「ミーム」は、広く共有されるデジタルアーティファクトであり、しばしば何らかの社会的地位や関与を示すような複雑なジョークの性質を持っています。偽ニュースは同じようなものなのでしょうか？おそらくそうかもしれません。しかし、実際に偽ニュースを信じる人もいます。明らかにエドガー・ウェルチは、コメット・ピンポン・ピザが人身売買された子供たちをかくまっていると信じていました。そして、彼は一人ではありません。

BuzzFeed NewsのためにIpsos Public Affairsが実施した調査では、3,015人のアメリカの成人が6つの見出しを示されました。そのうち3つは本物のニュースで、残りの3つは偽のニュースでした。これらの見出しは、選挙の数ヶ月前に共有されたニュース項目であり、全体としてはほぼ同じ回数共有されていました。回答者には、見出しを覚えているかどうか、また覚えている場合はそれが正確であるかどうかが尋ねられました。調査に参加した人の3分の1が、少なくとも1つの偽ニュースの見出しを見たと回答しました。その見出しを覚えていた人々は、偽ニュースが「非常に」または「やや」正確であると判断する割合が75％でした。一方で、本物のニュースの見出しを覚えていた回答者は、83％の確率でそれが正確であると判断しました。他の調査や実験でも、これと同様の結果が広く確認されています。Pewの調査では、1,002人の成人のうち23％が偽ニュースを共有したことを認め、そのうち73％がそれを知らずに行ったと答え、後になってそのニュースが偽であることに気づいたとしています。（他の人々は、その時点で偽であることを知っていたと主張しながらも、共有したと述べています。）もちろん、これらの結果には、知らずに偽ニュースを共有し、その後それが偽であることを知らなかった参加者や、騙されたことを認めない人々は含まれていません。ジャーナリズムには有名な格言があり、19世紀のニューヨーク・サンの編集者であるジョン・B・ボガートかチャールズ・A・ダナに帰属されることが多いのですが、「犬が人を噛んでもニュースではないが、人が犬を噛めばそれはニュースである」と言われています。この業界では、これを生きる指針として受け止めています。私たちは、墜落しない飛行機や、私たちに害を及ぼさない化学物質、何事も起こらない株主総会、広く受け入れられている仮説を確認する科学的研究についてはほとんど報道を目にしません。多くの問題において、新しいまたは予期しない出来事に焦点を当てることは特に問題ありません。新しさは物事を際立たせ、際立ちが新聞を売り、クリックを引き寄せます。それが私たちが気にかけることです。しかし、科学や政治、経済などの一部のテーマにおいては、新しさのバイアスが深刻な問題を引き起こすことがあります。第3章で見たように、タバコ戦略の重要な特徴の一つは…

研究を増幅し、促進するために、合法的で偏りのない科学者たちが生み出した研究を利用して、タバコ産業の agenda を支持することが多かった。このアプローチは非常に効果的であり、私たちが考慮したモデルでは、証拠の一部を広く共有することで、政策立案者や一般の人々が誤った信念に自信を持つようになる可能性があることが示されています。一方で、科学者たちは真実の信念に収束していくのです。ここでの基本的なポイントは、証拠が確率的または統計的なものである問題を解決しようとする際には、完全で偏りのないサンプルを持つことが不可欠であるということです。利用可能な証拠の一部だけに焦点を当てることは、誤った信念に至る良い方法です。このような偏りは、誰も意図的に公に共有される証拠を偏らせようとしていなくても発生する可能性があります。証拠が選択的に広められるメカニズムがあれば、それで十分です。

これは、ジャーナリストが新しい、驚くべき、または反対意見のストーリーに焦点を当てるときに正確に起こることです。これらのストーリーは、最も注目を集め、論争を引き起こし、広く読まれたり共有されたりする可能性が高いのです。ジャーナリストが最も興味深いと考えるもの、または読者にとって最も関心のあるものを共有すると、彼らは公衆が見るものを偏らせることになり、最終的には誤解を招く結果となることがあります。たとえ彼らが実際の出来事についてのみ報告していてもです。

このようなことがどのように起こるかをよりよく理解するために、私たちは第3章で説明したプロパガンダモデルの変種を考察しました。ここでは、政策立案者のグループが科学者とつながり、さらにプロパガンダを行う者ともつながっているのではなく、すべての情報を単一の第三者、つまり科学的結果を調査し、最も新しいと判断した証拠を共有するジャーナリストから受け取る政策立案者の集まりを想像します。私たちは、ジャーナリストがすべての科学的証拠を考慮に入れて信念を更新していると仮定します。つまり、より多くの証拠が集まるにつれて、彼女は科学的コンセンサスに収束していく傾向があります。しかし、彼女は最も驚くべきものだけを共有します。この基本的なアイデアを実現する方法はいくつかあります。たとえば、ジャーナリストが科学者の結果の各ラウンドを見て、そのラウンドから最もありそうもない結果を共有するという方法です。

別の方法として、ジャーナリストが現在の信念に基づいて、ある種の閾値を超えたすべての結果を共有するというものがあります。つまり、ジャーナリストが興味を持つほどに奇妙だと考える結果です。このような場合、私たちは、ジャーナリストや科学コミュニティが真実に収束しているにもかかわらず、一般の人々が時には誤った信念に収束してしまうことがあることを見出します。

このモデルでは、ジャーナリストは通常、真実の信念に強く向かう結果や、誤った信念に強く向かう結果の両方を共有します。彼女は、プロパガンダを行う者のように証拠を明示的に偏らせているわけではありません。時には、ジャーナリストが科学が支持するものに対して、真実の信念への私たちの自信を強化することもあります。しかし、それが彼女の行動が中立であることを意味するわけではありません。プロパガンダの例で見たように、真実の信念に導くのは証拠の全体的な分布です。この分布を変えることで、その証拠を消費する人々の行き着く先も変わります。

ジャーナリストが知らず知らずのうちに誤った信念を広める別の方法もあります。ジャーナリズムには、すべての議論の側面を代表することで「公正さ」を促進しようとする法的および倫理的な枠組みがあります。1949年から1987年まで、米国連邦通信委員会は「公正性の原則」と呼ばれる政策を維持しており、公共の関心がある物議を醸すトピックに関して対立する見解を提供することをメディアに求めていました。この規則はもはや適用されていませんが、たとえ適用されていたとしても、現在ではほとんどの人が放送メディアからニュースを得ていません。しかし、ジャーナリストが偏見を非難されることを好まないため、ジャーナリストには意見の対立を両方とも提示する（あるいは少なくともそう見せる）圧力が残っています。公正さは原則としては素晴らしい響きですが、複雑な問題の公共コミュニケーションには非常に混乱をもたらします。再び、結果を選択的に伝えるジャーナリストのモデルを考えてみてください。

今、ジャーナリストが驚くべき結果だけを共有するのではなく、彼女がある見解を支持する結果を共有するたびに、必ず別の見解を支持する結果も共有することを考えてみましょう。彼女は最近の結果の履歴を調べて、「別の視点」を反映する結果を見つけます。

図16では、試験を行う科学者たちの結果の一例を示しています（それぞれ10のデータポイントを持っています）。ジャーナリストは、Bを支持する結果の中からランダムに選ばれた太字の結果と、Aを支持する結果の中からランダムに選ばれた結果の2つを共有します。政策立案者は、Bが6回成功した研究と3回成功した研究の2つを目にしますが、実際の結果の分布は9回、6回、6回、3回であり、Bの一般的な成功をより好意的に示すことになります。さて、どうなるのでしょうか？この場合、政策立案者は科学者たちがそうであるときに真実の信念に収束する傾向があります。しかし、この収束は政策立案者にとって科学者よりもかなり遅く、実際にはジャーナリストが単に科学コミュニティから2つのランダムな結果を共有した場合よりもずっと遅いのです。これは、真実の信念を支持する証拠がより頻繁に現れると一般的に期待されるからです。両方の方向に結果を均等に共有することは、間違った方向に強い偏りをかけることになります。実際、公平性の規範は長い間、プロパガンダの道具として認識されてきました。たとえば、タバコ産業はしばしば公平性の原則を持ち出し、自社の見解がテレビや新聞記事で表現されるべきだと主張していました。

図16は、「公平な」ジャーナリストが政策立案者に報告するために2つの結果を選ぶモデルにおけるコミュニケーションを示しています。科学者たちの結果を観察した後、ジャーナリストは理論Bを支持する結果と、Aを誤って支持する結果（太字）を政策立案者に伝えます。これにより、政策立案者が利用できるデータセットが偏る効果があります。明るいノードは行動Aを支持する個人を、暗いノードはBを支持する個人を表しています。最終的に、反対意見を持つ人々が存在するからといって、その意見を共有したりプラットフォームを与えたりすることが正当化されるわけではありません。

そして、反対意見を報告しないこと、あるいは少なくともそれを反対意見として特に報告しないことが不公平であるという提案は、科学コミュニティが他の点で合意に達している場合には間違っていると言えます。これは、反対派が優れた資格を持ち、彼らの見解を支持する正当な結果を持っている場合でも同様です。難しい問題を解決しようとする際には、常に両方向に私たちを押し進める高品質で説得力のある証拠が存在します。この点について心配するかもしれません。結局のところ、この本全体を通じて、専門家の「合意」見解が誤りであった事例を指摘してきました。もしジャーナリストが、手が病気を伝播することは決してないと主張する医師たちの意見だけを報告し、セメルワイスを常習的な反対派として退けていたらどうなっていたでしょうか？実際、2003年のイラク戦争の前にも非常に似たようなことが起こりました。アメリカとイギリスの外交政策の専門家や政治家たちは、ほぼ一様にサダム・フセインが大量破壊兵器を開発しているという見解を採用しました（実際には彼は開発していませんでした）。ブッシュ政権とブレア政権は、これらの疑わしい兵器を使って戦争を正当化し、その結果、10年以上にわたる深刻な内戦と約20万人の民間人の死を招きました。ニューヨーク・タイムズは、この合意を十分な検証や懐疑心なしに提示したことで広く批判され、編集者たちは2004年に異例の謝罪を行いました。この場合、合意見解とそれに広く沿ったストーリーだけを報告することは、深刻な結果をもたらしました。さて、ジャーナリストはどのようにして違いを見分けるべきなのでしょうか？特に、関連する分野の専門家でない場合は。まず、現在または歴史的な出来事に関するストーリーは、科学に関するストーリーとは非常に異なる地位を持っています。ジャーナリストの役割は、科学的な意見の対立を仲裁することではなく、それはピアレビューや科学的プロセスの役割です。なぜなら、専門家の判断がしばしば不可欠だからです。

EX t482A.0 Kindle for PC 4 - 誤情報の時代: 偽りの信念が広がる理由 (英語版)

科学雑誌のページでそのプロセスがすでに展開されている場合や、議論の敗者が公の場でそれを再度取り上げたいと望んでいる場合、ジャーナリストは特に慎重であるべきです。一方で、ジャーナリストの仕事は、主要な国内外の政策が基づいている事実とされる事項を調査し、疑問を投げかけることです。これには、政策決定に関連する問題について科学的合意が存在するかどうかを判断することも含まれます。

さらに重要なのは、明らかな論争の理由に焦点を当てることです。今日のセメルワイスが無名のままである可能性や、才能ある記者が彼を見つけて彼のアイデアを公にすることができない可能性を排除したくはありません。実際、これは20/20がハイタワーと魚のメチル水銀について行ったことそのものです。私たちの主張は、反対意見や（見かけ上の）論争の存在自体が物語ではなく、意見の対立に対してすべての当事者に平等な時間を与えることを正当化するものではないということです。また、驚くべき、または期待に反する研究記事の発表がそれ自体でニュース価値があるわけではありません。したがって、ジャーナリストには新しい発見をセンセーショナルに報道することを避け、合意がある場合にはそれを報告し、その理由を伝えることが求められます。

特に、ジャーナリストや政治家は情報源を慎重に精査することが重要です。非専門家は必ず専門家の助けを必要とし、証拠を集約してもらう必要があります。これを利用しようとするのがプロパガンダを行う者たちであり、彼らは無関心な専門家の代わりに立ち、自己の利益に有利な形で証拠を集約します。しばしば、これを行うグループは、自らの独立性や資格についてジャーナリストを誤解させようと意図的に試みます。ここで、機関が重要な役割を果たすことができます。科学を報道するジャーナリストは、個々の科学者（たとえ彼らが高い資格を持ち、尊敬されていても）に依存するのではなく、国家科学アカデミーのような確立された独立した組織の合意された見解や、気候変動に関する政府間パネルのような国際機関に依存する必要があります。

同様に、税制や経済政策など、政策決定に重要な事実に関しても、信頼できる独立した政府の記録保持機関が存在する国々では、アメリカ合衆国の労働統計局のように失業率やインフレ率などの経済指標を測定する機関や、提案された立法の予算への影響を評価する議会予算局のような機関の調査結果は特に重視されるべきです。これに対して、「公式」の数字が誤っている、誤解を招く、または偏っていると主張する自己任命の専門家の意見は、あまり信頼されるべきではありません。国連からの報告書、特にIPCCのように厳格な査読を経たものは、個々の国の政府からの報告書よりも信頼性が高いことが多いです。このような機関は確かに党派的な目的のために操作される可能性がありますが、利害関係が問題に結びついている個人や組織よりも、はるかに信頼できる可能性が高いのです。

2016年7月10日の未明、セス・リッチという男性がワシントンD.C.のバーから自宅に帰る途中、彼女に電話をかけました。そのバーは自宅から数マイルの距離にありましたが、リッチはゆっくり歩きながら数時間にわたって会話を楽しんでいました。そして突然、彼は電話を切りました。数分後の午前4時20分頃、リッチは背中を2発撃たれました。警察はすぐに対応し、彼を地元の病院に運びましたが、彼はすぐに傷が元で亡くなりました。リッチは27歳でした。数日前、彼はヒラリー・クリントンの大統領選キャンペーンのスタッフとしての仕事を受け入れたばかりでした。クリントンが党の大統領候補として正式に指名される民主党全国大会は、約2週間後に開かれる予定でした。リッチは過去2年間、民主党全国委員会（DNC）で働き、クリントンとバーニー・サンダースの間の激しい予備選挙で有権者の投票率を上げる任務を担っていました。ワシントンD.C.のメトロポリタン警察は、彼の死を強盗未遂による殺人と判断しました。しかし、数日以内にこの事件はさまざまな憶測を呼ぶことになります。

リッチの射殺事件の数日後、陰謀論が広まり始めました。これは、インターネットの掲示板サイト「Reddit」に投稿されたことがきっかけのようです。主な主張は、リッチがクリントン夫妻、あるいは当時DNC（民主党全国委員会）の議長であったデビー・ワッサーマン・シュルツによって殺されたというもので、これは予備選挙中の選挙不正を隠すためだとされていました。このスレッドのコメント者たちは、リッチがDNCでの仕事を通じてサンダース支持者を抑圧する試みや、予備選挙をクリントンに有利に進めるための動きについて知ってしまい、その情報がクリントン陣営にとって危険な存在となったのではないかと推測しました。

クリントンが政治的なリスクを抱える人物を殺害したという噂は新しいものではありません。1994年、南カリフォルニアの共和党元議員ウィリアム・E・ダンネマイヤーは、当時の大統領ビル・クリントンが大統領に上り詰める過程で数十人の殺人に関与していると主張する手紙を議会の指導者たちに送っています。ダンネマイヤーは、クリントンに関係する24人の名前を挙げ、彼らが「自然死以外の理由で亡くなった」と主張しました。このリストは、前年にクリントンやその関係者によって殺されたと信じる人々の名前を34人挙げた活動家リンダ・トンプソンに由来しているようです。1994年には「クリントン・クロニクルズ」という映画も同様の主張をしています。

これらの主張は、ビル・クリントンの大統領在任中に法執行機関や特別検察官によって徹底的に調査されましたが、いずれも根拠がないことが判明しました。それでも、これらの噂は極右や極左の陰謀論者の間で根強く残り、リッチに関する主張が驚くべきことではなく、むしろもっともらしいものに思える生態系を作り出しました。

リッチが殺される約1か月前、DNCは自らのコンピュータサーバーがハッキングされ、数千通のメールが盗まれたことを認めました。ハッキングの最初の兆候は9か月前にさかのぼり、FBIがDNCに連絡し、少なくとも1台のコンピュータがロシアの工作員によって侵害されたと伝えました。技術者がシステムをチェックしましたが、異常は見つからず、DNCはその後の対応を行いませんでした。

2ヶ月後、FBIは再びDNCに連絡し、今度はそのサーバーの1つが定期的にロシアにデータを送信していると伝えました。再度、DNCのITスタッフはコンピュータが侵害されていないと判断し、FBIの警告をDNCの指導部に伝えませんでした。DNCはこのハッキングを止めるための措置を何も講じなかったようです。ロシアのハッカーがDNCのコンピュータに侵入したことは、2016年6月14日まで広く報じられることはありませんでした。DNCはその事実を認め、翌日にはロシアの情報機関によるものだと発表しました。一方、WikiLeaksの創設者ジュリアン・アサンジは、クリントン陣営に関連する数千ページのメールを持っており、すぐに公開する予定だと発表しました。WikiLeaksは、クリントンのキャンペーンに最大のダメージを与えるために、メールの公開をさらに1ヶ月遅らせ、2016年7月22日にオンラインで公開しました。これは民主党大会の数日前のことです。漏洩したメールの中には、DNCがクリントンの候補者としての立場を支持し、サンダースの立場を弱めるための行動を取っていたことを示唆する内容が含まれていました。自称ルーマニア人のハッカー、グッチファー2.0がこのハッキングの責任を主張しました。しかし、2016年7月25日に公式調査を開始したFBIは、攻撃の背後にロシアのハッカーがいると考えていると示しました。この主張は、DNCへの以前の警告と一致しています。半ダースの民間サイバーセキュリティ企業も同様の結論に達し、2016年10月までには、米国の情報機関の間で、ハッキングがロシアの情報機関によって行われたという広範な合意が形成されました。それでも、WikiLeaksはロシアの関与を確認することはありませんでした。2016年8月、アサンジはメッセージが全く別の情報源、すなわちセス・リッチから来た可能性を示唆しました。彼はリッチの死に関する情報に対して2万ドルの報酬を提供し、その後、オランダのテレビ番組「Nieuwsuur」のインタビューで、リッチに関する質問に対して「我々の情報源はリスクを冒す」と述べ、WikiLeaksは情報源を明かしたりコメントしたりしない方針であると付け加えました。この話の証拠や一貫性の欠如にもかかわらず、一部のメディアはこれらの主張を報じることを止めませんでした。

この報道の一部は、ロシアの英語版プロパガンダサイトであるRTからのもので、リッチをDNCハッキングの代替的な犯人として扱うことを好んでいるようでした。しかし、ワシントン・ポストやバズフィードニュース、ニュースウィークなどのより主流なメディアもアサンジの発言を報じました。

2017年5月には、フォックスニュースといくつかのフォックス5系列が、ハッキングされたDNCのメールがFBIによってリッチのコンピュータ上で発見されたと報じることで、このストーリーはさらに注目を集めました。これらの主張は、ロッド・ウィーラーという名前の男性に起因しており、彼はワシントンD.C.の殺人事件捜査官で、リッチの事件に関して共和党の内部者から報酬を受けて働いていました。ウィーラーは、自分がリッチのコンピュータ上でそのメッセージを見たかのように話し、この新しい証拠について直接語ることができると主張しました。

しかし、問題が一つありました。フォックスニュースの報道は完全に捏造されたものでした。報道が出た直後、FBIはリッチの調査には関与していないと発表しました。すぐにウィーラーは、実際にはリッチのコンピュータ上でメールを見たことはないと認めました。リッチの両親は、リッチがDNCのメールを所有または送信した証拠を見たことも聞いたこともないとする声明を発表しました。また、リッチの死は失敗した強盗以外の何物でもないと述べました。証拠が存在しなかったか、持っている者がそれを隠していたかのどちらかです。最初に報道が放送されてから約1週間後、フォックスとその系列はその報道を撤回しました。その年の8月、ウィーラーはフォックスを相手に訴訟を起こし、報道陣が彼に帰属させた引用を故意に捏造し、全体のストーリーがホワイトハウスと相談の上で orchestrated されたと主張しました。リッチがDNCのメールハッキングに関与していた理由は、存在しないか、存在したとしても信じる理由は全くありません。しかし、少なくとも一部の右派メディアの人物たち、特にフォックスのショーン・ハニティは、これらの主張のバリエーションを繰り返し続けています。特にハニティは、ウィーラーの発言が否定された後でも、撤回を拒否しています。リッチの例は、「リアルニュース」と「フェイクニュース」の境界がいかに薄いかを示しています。もちろん、フォックスニュース（ETFニュースやMSNBCも同様）は明確な政治的傾向を持っていますが、彼らはこのような捏造に基づいたストーリーを報じることで、信頼性を損なっています。

EE 824240 Kindle for PC 4 - 誤情報時代: 偽りの信念が広がる理由 (英語版)

ウィーラーに帰属される発言は、編集方針から明白な虚偽に逸脱しました。この例は、正当なニュースソースでさえも偽ニュースを生産し、広めることができることを示しています。もしウィーラーの訴訟における主張、すなわちホワイトハウスがこのストーリーに関与していたというのが真実であれば、状況はさらに深刻です。一部の読者は、特にハニティを含むコメンタリー部門のフォックスニュースは、全く正当なニュースソースではないと反論するでしょう。しかし、偽ニュースを広めたのはフォックスニュースだけではありません。

例えば、MSNBCのホスト、ステファニー・ルールは、オンエアでフォックスニュースが2016年のクリスマスパーティーをワシントンD.C.のトランプ・インターナショナル・ホテルで開催したと主張しました。この主張は虚偽であり、彼女は後に謝罪しました。（ただし、共和党全国委員会はその年にホテルでクリスマスパーティーを開催したようです。）また、CNNのエリート報道チーム「CNN Investigates」は、2017年夏にトランプに関連する2つのストーリーを撤回せざるを得ませんでした。一つは、アンソニー・スカラムーチがロシアの投資ファンドに関与していたと主張したもので、もう一つは、元FBI長官のジェームズ・コミーが議会で証言を行うと主張したものでしたが、彼は最終的に証言を行いませんでした。

フォックスニュースは、ETFニュースやブレイトバート、インフォウォーズなどの他の右派ソースとは異なるカテゴリーに属しています。CNNやMSNBCも同様です。彼らを異なるものにしているのは、フォックス、CNN、MSNBCが一般的に新しい証拠に基づいて虚偽のストーリーを撤回することです。自己修正の編集プロセスが機能しています。撤回にかかる時間や、すでに発生したかもしれない損害について議論することはできますが、事実が単純に明らかに間違っている場合、これらのメディアソースは誤りを訂正しています。そして多くの場合、他のニュースソースが彼らを監視することによって、訂正が行われています。これらのグループがそれでもなお虚偽を広めることができるため、偽ニュースを特定する問題はさらに難しくなります。信頼できるソースと信頼できないソースを指摘するだけでは簡単ではありません。

このような明白な虚偽は、唯一の問題ではなく、最悪の問題でもないかもしれません。より深刻な問題は、フェイクニュースがリアルニュースに微妙に影響を与える方法に関するものです。それは、ジャーナリズムのアジェンダを設定することです。ピザゲートの騒動とは異なり、リッチの事件には実際の事実が背景に存在します。リッチは本当に殺害され、彼がDNCのメール漏洩に関与していたという疑惑があり、ウィキリークスはこの事件に関する情報提供に対して大きな報酬を提示しました。そして、彼の殺人者を特定するために私的な調査が資金提供され、実施されてきましたが、残念ながらその殺人者は特定されておらず、逮捕もされていません。これらの事実を報道することは「フェイク」ニュースではありません。特に、多くの読者がこうしたストーリーを読みたいと思っていることを考えればなおさらです。しかし、もし誰かが最初に興味を持った理由が、これらの事実が広範なフェイクニュースと結びついているからであれば、それをリアルニュースとして捉えるのは難しいです。最終的に、フェイクニュースや根拠のない主張、暗示は、ストーリーへの関心を生み出し、それがより信頼できる情報源による調査や報道を正当化することがあります。これらのさらなる調査が元の主張が根拠のないものであることを示しても、ストーリーの広がりを助長し、何かがあるという感覚を生み出します。陰謀論がなければ、アサンジがセス・リッチについて尋ねられることはなかったでしょうし、ワシントン・ポストが彼の発言を取り上げることも（またはそれを否定することも）なかったでしょう。共和党のロビイストによって資金提供された私的調査員がフォックスニュースの引用を行うこともなかったでしょう。これは、この本全体で繰り返し現れるテーマの別の現れです。個々の行動は、それ自体では正当化され、真実に寄与し、さらには合理的である場合でも、より広い文脈では問題を引き起こすことがあります。誰を信頼するかを判断し、その判断に応じて信念を更新する個人の行動は、最終的には分極化や有意義な交流の崩壊に寄与します。真実のストーリーを求め、広く関心を持たれることを目指すジャーナリストは、最終的には誤情報を広めることになります。すべての文が真実で完璧に裏付けられているストーリーであっても、フェイクニュースや誤った信念に寄与することがあるのです。

これらの動向は憂慮すべきものですが、認識することで、小さな介入が大きな影響を与える可能性があることがわかります。特に、信頼できるニュースソースが行う二つの本質的に異なるタスクを区別することが重要です。一つは、疑惑の調査、事実確認、そして虚偽の主張を反論することです。これは重要な活動ですが、逆に虚偽のストーリーの拡散を助長するリスクも伴います。例えば、コメット・ピンポンの陰謀論のように、虚偽のニュースが実際のストーリーに変わることもあります。もう一つのタスクは、読者の生活に関連し、彼らの要求に応じた独立した興味のある実際のストーリーを特定し報告することです。これも重要な活動であり、判断を要しますが、虚偽を助長するリスクは少なくなります。

私たちは、これらの活動をしっかりと分ける必要があると提案します。ウォール・ストリート・ジャーナルやニューヨーク・タイムズ、ワシントン・ポストなどの主要なニュースソースは、最初のタイプの活動を完全に避けることを検討すべきです。事実確認やメディアの監視は非常に重要ですが、ポリティファクトやスノープス.comのような独立した監視団体に任せる方が、虚偽のストーリーにさらなるトラフィックや注目を集めるリスクが少なくなります。

圧倒的な証拠が示すところによれば、ロシアの情報機関に関連していると思われる外国の関係者が、2016年の米国大統領選挙に干渉しようとしたことが明らかになっています。最初はヒラリー・クリントンの候補者としての地位を弱体化させるため、後にはドナルド・トランプを支持するためのものでした。例えば、米国の情報機関は、ロシアの情報機関が民主党全国委員会（DNC）のメールサーバーをハッキングし、特にバーニー・サンダースの扱いに関する恥ずかしいメールを公開したと判断しています。フェイスブック、ツイッター、グーグルは、ロシア政府に関連するアカウントが、政治広告を購入するために十万ドル以上を費やしたことを明らかにしました。その多くは、論争を生み出し、社会的な不和を煽ることを目的としていたようです。

Facebookは、その後、ロシア製の政治コンテンツが1億2600万人ものアメリカのユーザーに届いたことを明らかにしました。この執筆時点では、明示的な協力の疑惑はまだ完全には解決されていませんが、トランプ陣営がロシア政府が自らの候補者を支持していることを知っており、選挙に影響を与えようとする努力をしていたことには疑いの余地がありません。しかし、私たちの目的においては、ロシアの支援を受けたグループが選挙や西側の政治的議論に影響を与えた重要な方法がさらにあります。たとえば、議論のために仮定として、ロシアのエージェントが実際にDNCのサーバーをハッキングし、盗んだメールの一部またはすべてを公開したとしましょう。その目的は何だったのでしょうか？情報を収集することが全ての目標であったなら、ハッキングしたメールを公開することはあまり意味がありません。公開の性質と規模は、異なる動機を示唆しています。最終的に、DNCのメールの公開は、民主党内に持続的な分裂と論争を引き起こし、それが民主党の効果的な統治能力に影響を与えました。言い換えれば、これらのメールは不和と不信を生み出し、アメリカの政治機関を侵食してしまったのです。おそらく、これが狙いだったのでしょう。

ロシアの目標が社会的分断を生み出し、民主的（小文字のd）機関を弱体化させることであったという考えは、ロシア支援のグループがキャンペーン中にソーシャルメディアを利用した方法によって裏付けられています。彼らはトランプの候補者を助けることを目指していたようですが、その努力は潜在的なトランプ支持者や政治的右派の人々だけを対象にしていたわけではありません。ロシアの組織は、LGBTQコミュニティのメンバーからブラック・ライヴズ・マターの活動家、銃の権利支持者、反移民の熱心な支持者、さらには動物愛好家に至るまで、さまざまなグループに影響を与えるために、個性や声、立場の「ベスティアリー」を開発したと報告されています。一つの目標は、広範な人口統計や関心グループとの信頼関係を築き、彼らに影響を与えることだったようです。ニューヨーク・タイムズは2017年10月に、ロシアに関連するLGBT UnitedのTwitterアカウントが「私たちは全国のLGBTコミュニティのすべての仲間を代表しています」と宣言したと報じています。

「性別の好みはあなたを定義するものではありません。あなたの精神があなたを定義します。」

犬好きのページでさえ、タイムズが示唆するように、政治的なコンテンツに徐々に触れさせるフォロワーを育成する意図で形成された可能性があります。言い換えれば、目標は近づき、仲間を装い、影響を与えることでした。ユーザーに共通の信念や価値観を共有していると納得させた後、ロシア人はこれらのプラットフォームを利用して右派と左派の間の溝を広げました。彼らの「ハート・オブ・テキサス」Facebookページは、テキサス州が国家から分離するよう説得しようとしました。また、「ブラックティビスト」グループは、警察のバンで安全装置なしに運ばれた後に死亡した25歳の黒人男性フレディ・グレイの死に対する抗議を呼びかけました。ある奇妙なキャンペーンには、「私たちを撃たないで」というコンテストが含まれており、ポケモンGOのユーザーに現実の警察の暴力の現場近くでポケモンを捕まえ、その名前を犠牲者にちなんで付けるよう促しました。

これらのケースでは、グループのメンバーがすでに持っている見解から大きく逸脱することを強いられることはありませんでした。たとえば、LGBTQグループはトランプを支持していませんでした。むしろ、社会的影響力を利用して、彼らがすでに持っている見解のより極端なバージョンに押し込むことが行われました。浮かび上がるのは、ロシアのプロパガンダ担当者が社会的影響のダイナミクスに非常に敏感であったということです。まず、私たちが第2章で提示した同調のモデルにおけるネットワーク構造の役割を思い出してください。ネットワーク内の特定の位置にいるエージェントは、他の位置にいるエージェントよりもはるかに影響力があります。たとえば、第3章では、星型またはホイール構造の中心にいるエージェントが周辺にいるエージェントよりも影響力があることを観察しました。これは、他のエージェントとの接続数が多いことが一因ですが、それだけではありません。中心のエージェントが他のすべてのエージェントと強く結びついているのに対し、他のエージェント同士は比較的弱く結びついていることも重要です。ロシアのアカウントに関連するFacebookコンテンツの中には、「ページ」や「コミュニティページ」であって、「グループ」ではないものもありました。これらの用語を区別なく使用するのは簡単ですが、その違いは重要です。Facebookの「グループ」は、

#2840
Kindle for PC 4 - 誤情報の時代：誤った信念が広がる理由（英語版）

このプラットフォームは主にメンバー間の議論を促進するために設計されています。一方、Facebookの「ページ」は、組織や有名人がフォロワーのコミュニティを作るためのものです。「コミュニティページ」はその中間に位置しています。ここでは、他のユーザーがページの「フォロワー」として登録し、コミュニティに向けた投稿を行うことができますが、ページを作成した人も投稿を行うことができ、それはコミュニティ全体に向けて共有されます。例えば、ロシアに関連するコミュニティページの一つ、2018年3月時点で活動していた「LGBT United」ページを訪れると、最初に目にするのはグループ自体が作成した「LGBT United」投稿です。他のコミュニティメンバーからの投稿は、さらにリンクをたどることでしか見つけることができません。言い換えれば、コミュニティページは星型ネットワークを模倣しており、ページの作成者が中心にいます。ロシアのアカウントは、すでに星型ネットワークの中心にいる人々に影響を与えようとするのではなく、親和性グループを作成することで星型ネットワークを構築したようです。

親和性グループを通じてつながりを築くことは、特に過去に信頼できる信念を持っていると考えられている人々の影響を受けやすいという前提に基づいています。これは、親和性グループを通じてつながりを築くことが、影響力を持つための強力な手段を提供することを意味します。特に、その影響がすでに向かっている方向にさらに押し進める場合にはなおさらです。そして、目的が単に分極化を促進することであれば、すべての人を説得することとは異なります。

特定の主張について、問題の両側にいる人々に自分の意見を共有する者として振る舞い、その意見を支持するさらなる証拠や議論を提示することは非常に成功するでしょう。このような相互作用を親和グループを中心に構築することで、ロシアに関連するグループがさらに影響力を行使できた可能性があります。第3章で説明した極化モデルの修正を思い出してください。そこで私たちは、ある領域における共有された信念が他の領域の信念に影響を与える役割について考察しました。各エージェントが特定の問題に関して他のエージェントをどれだけ信頼するかを決定する際に、さまざまな問題に対する合意を考慮するモデルにおいて、異なる信念が互いに影響し合うことがわかりました。集団は複数の異なる信念において極化し、しかもそれは強く相関した形で進行しました。この事実を利用して、プロパガンダを行う者はどのように信念を操作できるでしょうか？第3章で考察した例では、戦略は他の問題を解決するのに成功した実績のある人物、つまり真実を発見する長い経歴を持つ人物を見つけ、その人物にプロパガンダの代弁者として行動させることでした。しかし、別の戦略も存在します。信頼すべき相手を決定する際に、さまざまな問題に対する信念を考慮するならば、ある領域（銃規制やLGBTQの権利に関する意見）での共有された信念の存在を確立することが、他の領域における問題に対する信頼の根拠を提供します。したがって、誰かがあなたに対して現在不確かなことを納得させたい場合、その人が最初に共通点、つまり共有された関心や信念を確立することが最も効果的な方法かもしれません。親和グループはまさにこの役割を果たしているようです。フェイクニュースに対する自然な反応の一つは、ソーシャルメディアサイトやウェブ検索プロバイダー、ニュース集約サイトがフェイクニュースを特定し、それを阻止する責任があると言うことです。実際、フェイスブックのアルゴリズムがETF Newsにホストされた偽のストーリーを積極的に促進したことがありました。他のケースでは、これらのサイトは単にフェイクニュースがバイラルになるための手段を提供したに過ぎません。

これは部分的には、人々が何を読みたいかに関する問題ですが、ソーシャルメディアサイトがどのストーリーが非常に魅力的であるかを特定し、視聴者を最大化するために使用するアルゴリズムによって増幅されています。この解決策を私たちは全面的に支持します。Facebook、Twitter、Googleのような組織は、過去数年間にわたって彼らのプラットフォーム上でフェイクニュースが蔓延する責任があります。そして、最終的にはその結果として生じた政治的、経済的、人間的なコストにも責任があります。しかし、責任を割り当てることは、解決策を特定することとは異なります。もしソーシャルメディアサイトのアルゴリズムがフェイクニュースを増幅し広めているのなら、アルゴリズムがフェイクニュースを特定し、それがこれらのサイトで増幅されるのを防ぐ手助けをすることもできるのではないかと期待するかもしれません。あるいは、フェイクニュースがそのようなサイトで共有されるのを完全に防ぐことも可能かもしれません。しかし、ETFニュースを含む虚偽のストーリーを制作または配信する多くのサイトは、同時に真実のストーリーも制作しています。信頼できないソースからの真実のストーリーを共有することは可能でしょうか？そして、私たちが見たように、通常は真実または本質的に真実のストーリーを制作するメディアグループも、時には虚偽のストーリーを制作することがあります。それらのストーリーはフィルターを通過するでしょうか？もしそうなら、特定のサイトがフェイクニュース提供者としてフラグを立てられる前に、どれくらいの数のフェイクまたは少なくとも虚偽のニュースストーリーを掲載できるべきでしょうか？2016年の選挙以降、多くの学術論文がフェイクニュース問題に対するアルゴリズム的解決策を提供しています。これらの取り組みは確かに価値がありますが、真実を判断することは難しく、時間がかかり、人手を要するプロセスです。（ケリーのストーリーは、Facebookが人間の編集者を解雇した数日後にFacebookによって推進されました。）アルゴリズム的な対応は助けになりますが、もっと必要です。最終的には、人間の編集者の裁量、事実確認者の大軍、そして理想的には、ニュース組織が報じる行動を受けるグループとの間に完全な財政的および政治的独立が必要です。私たちはフェイクニュースを深刻な問題として認識し、それを解決するためには責任と投資が必要であることを理解する必要があります。おそらくもっと重要なのは、フェイクニュースストーリーや、より一般的なプロパガンダが固定されたターゲットではないことを認識する必要があるということです。

これらの問題は一度解決すれば終わりというわけにはいきません。経済学者チャールズ・グッドハートは「グッドハートの法則」で知られており、人類学者マリリン・ストラスサーンによって「測定が目標になると、それは良い測定ではなくなる」と要約されています。言い換えれば、測定の手段を利用しようとする利害関係者がいる限り、彼らは必ずその方法を見つけ出し、そうなった時点でその測定は無意味になります。古典的な例として、フランス植民地時代のベトナム・ハノイでの出来事があります。1900年代初頭、ハノイはネズミであふれかえっており、植民地政府はネズミの尾を持ってくるごとに報酬を提供しました。問題は、人々がネズミの尾を切り落とし、その後ネズミを放して繁殖させ、さらに多くの尾を持つネズミを増やすようになったことです。

偽情報の発信源からも同様の反応が予想されます。偽ニュースサイトを特定しブロックするアルゴリズムを開発すると、これらのサイトの制作者は検出器を出し抜くための創造的な方法を見つける大きなインセンティブを持つことになります。私たちがプロパガンダに対抗するために設ける障壁は、すぐにこれらの情報源が克服すべきターゲットとなるでしょう。例えば、ベネット・ホルマンは、製薬会社が消費者保護団体の改革を回避するために常に新しい戦略を考案し、それに対抗するためにこれらの団体がさらなる行動を起こす様子を歴史的な事例を用いて説明しています。彼はこのプロセスを非対称の軍拡競争に例えています。

「軍拡競争」という言葉は、多くの人にとって冷戦時代の米国とソ連の核軍拡競争を思い起こさせます。両者は互いに武装を強化しようとし、ますます危険で巨大な爆弾が増えていきました。生物学の分野でも、対立する利害を持つ種の間で軍拡競争が見られます。チーターはガゼルを捕まえるために速くなり、ガゼルはチーターを振り切るために進化します。捕食者は神経毒を集中させ、捕食される種はその毒に対する耐性を高めていきます。この枠組みは、偽ニュースを打破するための私たちの希望を暗いものにしています。私たちが偽ニュースを検出し阻止する能力が向上すればするほど、プロパガンダを生産し広める能力も向上することが予想されます。

そのことを踏まえると、唯一の解決策は試み続けることです。公共の議論における真実の探求は、自己の利益を守ろうとする強い動機を持ち、十分な資金を持つ政治的および産業的な勢力と、常に変化するメディアや技術の環境に適応しようとする社会との間の終わりのない軍拡競争であるという考え方は、プロパガンダを試みる者や事実を歪めようとする者が常に新しい手法を考案し続けることを示唆しています。私たちが利用可能な証拠に応じた政策を持つ公正で民主的な社会を望むのであれば、プロパガンダや影響力の変化する性質に注意を払い、適切な対応策を開発する必要があります。私たちが議論してきたモデルや例は、フェイクニュースやプロパガンダに対抗するための介入策を示唆しています。私たちが誤った信念が広がる理由の一側面、つまり個々の心理的要因ではなく社会的影響に焦点を当ててきたように、フェイクニュースやプロパガンダに対して社会としてどのように最善の対応をするかについての提案も、物語の一部に過ぎません。しかし、私たちは、社会のすべての個人が完全に合理的であると仮定した場合でも（残念ながらそうではありませんが）、誤った信念の広がりや持続性に対する社会的影響の重要性を認識することが、私たちが行うべきことの一つであり、ネットワークを考慮に入れた介入策についても考える必要があると考えています。

一つの可能な介入策は、地域の問題と個人の日常生活から切り離されたより抽象的な問題との関係に関するものです。政治が地域に根ざすほど、近年現れたような歪んだ社会的影響に支配される可能性は低くなります。これは、地域に影響を及ぼす政策が、世界が反発する機会を増やすからです。例えば、一般的に排出を規制することを目的とした国の立法と、近くの石炭発電所からの排出を規制することを目的とした地域の立法の違いを考えてみてください。また、町の漁業地域における水銀汚染に関する立法は、その法案に投票する人々の日常生活に観察可能な影響を与えます。

これは、行動AとBの成功率に顕著な違いがあり、同調がそれほど重要でないモデルにより、より適切にマッチする状況を生み出します。このような場合、社会的影響がそれほど重要でないと予想され、業界がこれらの影響を利用して真実を隠すのが難しくなるでしょう。

もちろん、経済政策や気候政策のような緊急の問題は、必然的に国家的または国際的な問題であり、同じように地域的な問題にすることはできません。しかし、個々の政治家が政治的な議論を地域の重要な問題に向けて再指向するためにできることが多ければ多いほど、有権者が利用可能な最良の証拠に基づいて判断することを期待できるでしょう。皮肉なことに、これはアメリカ合衆国における政治的機能不全の一因が、特定の支出に関連する反腐敗の取り組みであった可能性を示唆しています。つまり、連邦予算の配分が個々の議会区のプロジェクトを支援するために使用されることに対する反対です。（2011年、オバマ大統領は施政方針演説で、特定の支出を含む法案には拒否権を行使すると宣言し、翌月には共和党が支配する議会がそのような支出を禁止する法律を制定しました。）

実際の生活に対する具体的な影響を心配している有権者は、選挙中に同調的なアイデンティティのシグナルを発信する可能性が低くなるかもしれません。第二の介入の可能性は、異なる意見への露出を最小限に抑え、特定の信念を持つことに対するポジティブなフィードバックを最大化するような社会的ネットワークを構築する能力に関するものです。ソーシャルメディアサイトは、情報がメンバー間で共有される際のアルゴリズムを変更し、すべてのメンバーがサブグループ間で広く共有され、議論されている資料に触れるようにすべきです（単にそのサブグループに限定するのではなく）。

私たちの同調モデルでは、異なる意見はクラスター化された社会的ネットワークによって強化され、保護されていました。個人が主に小さなグループ内でつながっている場合、外部からの影響はクリーク内のものよりも重要ではなく、同調効果はグループを彼らの誤った信念と矛盾する証拠から守ることができます。たとえ一部のメンバーがこの証拠を集めたとしても、社会的な非難を恐れてそれを共有することをためらうのです。

単にそのようなグループの全メンバーと情報を共有することは、彼らの同調を妨げることはないかもしれませんが、信頼できる情報にアクセスできるネットワーク内の人々が多ければ多いほど、誰かが社会的トレンドに逆らう可能性が高まります。もちろん、もしアメリカのすべてのソーシャルネットワークを魔法のように混乱させることができたとしても、不信の問題は解決しません。私たちが議論してきたように、グループのすべてのメンバーがコミュニケーションを取れるとしても、異なる信念を持つ人々を信頼しない場合、グループは依然として分極化する可能性があります。皮肉なことに、プロパガンダを行う人々は、そのような状況に対して非常に効果的な介入を示しています。グループに信念を変えさせるためには、彼らの他の核心的な信念や価値観を共有する誰かを見つけ、その人に自分の見解を支持してもらう必要があります。例えば、反ワクチン派の人々を説得するために偽のFacebook興味グループを作ることはお勧めしませんが、確立された事実に対して非常に懐疑的なグループとの信頼を築くために、共有する価値観を持つスポークスパーソンを見つけることをお勧めします。理想的な世界では、信頼できる政治家がこの役割を果たすかもしれません。人為的な気候変動を信じる共和党の代表者が、保守的な有権者にこれを共有することができれば、公共の意見に大きな影響を与えるかもしれません。実際、アイディン・モフセニとコール・ウィリアムズの共同研究によれば、個人が自分のソーシャルネットワーク内のトレンドに逆らって少数派の信念を持つ場合、その信念の表明は特に強力であることが示唆されています。他の人々は彼らが同調することを期待しているため、彼らが社会的にリスクの高い立場を取るには良い理由があるに違いないと推測しやすいのです。この現象を「マーベリック効果」と呼ぶことができるかもしれません。例えば、アリゾナ州の上院議員で自称マーベリックのジョン・マケインが気候変動は現実だと言った場合、その発言はアル・ゴアが同じことを言った場合よりも右派に対してはるかに大きな影響を持ちます。このメカニズムは、ロジャー・レヴェルのケースでは逆の方向に働きました。つまり、政治的および社会的コンセンサスに逆らって真実の信念を広めることをいとわない少数の個人の意見を見つけ、ターゲットにし、公表することが、非常に大きな社会的影響を持つ可能性があるということです。これらの個人が信頼されている場合はさらに良いでしょう。

EE #42840 Kindle for PC 4 - 誤情報時代: 偽りの信念が広がる理由 (英語版)

政治家のように、中心にいる人々は非常に多くのつながりを持っています。スターの中心にいる人々は、独自の意見を持つのではなく、周囲に合わせるようにという特異な圧力を受けていますが、彼らがそう決めたときには、仲間に影響を与えるかなりの力も持っています。私たちは、政治家が expedient（都合の良い）ではなく、正しいことをすることを期待し続けることができます。しかし、私たち一般の人々には、もっと希望があるかもしれません。この本からの一つの重要な教訓は、「アイデアの市場」が事実と虚構を効果的に区別できると考えるのをやめるべきだということです。

1919年、オリバー・ウェンデル・ホームズ判事は、アブラムス対アメリカ合衆国の最高裁判所の決定に反対し、1918年の扇動法を支持しました。被告たちは、ロシア革命に干渉しようとするアメリカの試みを非難するパンフレットを配布していました。裁判所は彼らの判決を支持しましたが、ホームズは「最終的に望まれる善は、アイデアの自由な取引によってより良く達成される。... 真実の最良のテストは、その考えが市場の競争の中で受け入れられる力である」と反応しました。

ホームズの称賛すべき目標は、自由な言論を守ることでしたが、アイデアの市場という比喩は、経済における自由市場のアナロジーとして広く採用されています。議論を通じて、穀物と殻が分けられ、一般の人々は最良のアイデアや信念を採用し、残りを捨てると想像されます。しかし、残念ながら、この市場はフィクションであり、危険なものです。私たちは自由な言論を制限したいわけではありませんが、権力や影響力を持つ立場の人々には、自らの言論が何であるか—力の行使であり、実際に害を及ぼす可能性があること—をしっかりと認識してもらいたいと強く主張します。根拠のない見解を支持することは無責任であり、それは理想的な「市場」に対する無害な追加物ではなく、道徳的に間違っていると考えるべきです。

これは科学者にとっても、政治的・社会的リーダーにとっても同様です。第3章で提示されたプロパガンダモデルを思い出してください。これらは、誤って偽りの信念を支持する研究が、プロパガンダを行う者にとって不可欠な道具であることを示しました。これは科学者の責任ではありませんが、

ドクター・Rr BH
S495y
yh
<s
RE #3220 Kindle for PC 4 - 誤情報時代：虚偽の信念が広がる理由（英語版）
AN
com
vy A) xe | Oe)
（確実な）前提として、産業界の利益が今後も続くことが予想される中で、科学者たちは自らの研究が社会に悪影響を及ぼすことを防ぐために、できる限りの手段を講じる責任がある。®+
まず第一に、科学コミュニティは、特に公共の利益が明らかに関わる場合に、誤った結果が出る可能性を減少させるような出版の規範を採用する必要がある。第二に、科学者は出版する際に内在するリスクを考慮する必要がある。科学哲学者のヘザー・ダグラスは、科学者が自らの研究の社会的影響を考慮し、それを出版の利益と天秤にかける責任があると説得力を持って主張している。あるいは、少なくとも社会的に敏感なテーマについての自らの研究を特に高い基準で評価した上で出版するべきだと述べている。°2 反論として、科学者の義務は科学を行うことだけだという意見もあるかもしれない。しかし、我々はダグラスの意見に賛同し、産業界の宣伝者が活動している分野では、出版による社会へのリスクが非常に高いため、科学者の決定において考慮すべきであると考える。©

宣伝者の手の内に落ちるリスクを最小限に抑えながら科学を行う方法は他にもある。本書全体を通じて、低いパワーの研究は特に誤った結果を生む可能性が高いことを指摘してきた。一つの解決策は、科学コミュニティが基準を引き上げることである。もう一つは、公共の利益が関わる場合に、科学者たちが団結し、結果を統合してから出版することである。これにより、明確な合意を持った非常に強力な研究が生まれ、多くの異なる結果を持つ弱い研究が散発的に存在するよりも良い結果が得られる。この戦略には反対意見を抑圧するという欠点があるが、それもまた目的である。科学者たちが事前に意見の不一致を解決すれば、異論を利用して混乱を招こうとする者から公共を守ることができる。“

科学者たちがこのように協力することが不可能な場合、独立した機関—理想的には独立した学術団体だが、政府機関も考えられる—が必要である。

V Aa S
国立科学アカデミーのような組織は、専門分野の合意を集約し、提示する役割を担うべきです。このステップは、自らの利益に合った研究を推進する宣伝者の問題を回避するものではありませんが、宣伝者が私たちの注意を向けさせたい研究が最新の科学的知見と一致していないことを、注意を払うすべての人に明確に示すことができます。もう一つの明確なメッセージは、私たちは研究の産業資金提供を放棄しなければならないということです。科学者として、自分は汚職に関与しないと思うのは簡単ですが、議論したように、科学者が腐敗していない場合でも、産業資金が科学的プロセスを大きく変える可能性があります。産業資金は豊富で研究が高額であるため魅力的ですが、公共の利益を守る良い科学を求めるなら、この費用は公共が負担しなければなりません。産業が科学に干渉することを許すのはあまりにも高くつき、科学者が個々に信頼できる場合でも、干渉はあまりにも容易です。

ジャーナリストは、誤った信念の社会的拡散を最小限に抑えるために、科学や専門家の意見について書く際に異なる基準を持つ必要があります。私たちが主張してきたように、公平性を試みることは、しばしば公共が見る科学的証拠に偏りをもたらします。科学における少数意見に「公平な扱い」を与えることは、周辺的な要素や明らかに悪意のある行為者に権威と力を与えることになります。この本で見てきたすべてのことは、ジャーナリストが代わりに公共に利用可能な証拠の偏りのないサンプリングを提供しようとすべきであることを示しています。もし、喫煙が危険であることを示す研究が99件あり、反対の研究が1件あるなら、ジャーナリストは喫煙が有害だと考える科学者99人に話を聞き、そうでない科学者1人に話を聞くべきです。（ジョン・オリバーは、彼の風刺的なニュース番組で、97人の気候科学者と3人の懐疑論者を一度にステージに呼び、リアルタイムでまさにこれを実行しました。）

この観点から、ウィキペディアは論争のある科学的トピックについて書くための称賛すべき基準を発展させました。

ウィキペディアの「適切な重み付け」基準では、信頼できる科学データベースにインデックスされた査読付きの学術誌において複数の意見や見解が表明されている場合、それらすべての意見をウィキペディアの記事に含めることが適切であるとされています。しかし、各意見に与えられる重み、つまり他の意見に対する相対的なスペースは、高影響力の学術誌に掲載された関連する記事の数や、そうした記事が受けた引用数に比例すべきです。特に、最近の記事や引用にはより大きな重みが与えられるべきです。この基準は複雑に思えるかもしれませんが、実際には、Google Scholarなどの現代的な学術ツールを使えば、どの論文が多く引用されているか、どの意見が信頼できる学術誌で広く支持されているかを簡単に特定することができます。

もちろん、尊敬されるジャーナリストが行うことは、他の情報源が誤ったり誤解を招くような情報を流している限り、その影響は薄れてしまいます。この点に関して、私たちは物議を醸す提案を持っています。現在、タバコや製薬業界など特定の産業が自社製品を広告したり、誤情報を広める能力を制限する法的枠組みがあります。これは、これらの産業が自社製品を宣伝することが公衆衛生に明らかなリスクをもたらすためです。また、個人に関する特定の（不正確な）主張を禁止する名誉毀損や中傷に関する法律も存在します。私たちは、これらの法的枠組みを拡張し、より一般的な誤情報の拡散に対する取り組みをカバーするべきだと考えています。地球温暖化の時代において、Breitbart NewsやInfowarsのようなウェブサイトは、過去のJoe CamelやMarlboro Manよりも公衆衛生に対してより有害であり、そのように扱われるべきです。

多くの点で、アメリカはこの問題に関してヨーロッパに遅れをとっています。アメリカやイギリスと同様に、フランス、ドイツ、オランダなどの他のヨーロッパ諸国もフェイクニュースの標的にされており、その多くはロシアとの関連が疑われています。2015年、欧州連合はフェイクニュースやプロパガンダに対抗する戦略を特定することを目的とした専門のタスクフォース「East StratCom」を設立しました。

（このグループは「東」ストラテジック・コミュニケーション（StratCom）と呼ばれています。これは、EUが2015年にはすでにロシアを問題のある偽情報キャンペーンの源と認識していたためです。）このグループは、多くのボランティアネットワークを活用して偽情報を特定し、反論しています。これは、Snopes.comやPolitiFactの制度化されたバージョンのようなものです。最近、ドイツは「違法な」コンテンツに対してソーシャルメディア企業に責任を持たせることを目的とした新しい法律を導入しました。この法律には、ヘイトスピーチと見なされる内容も含まれています。執筆時点で、フランスのエマニュエル・マクロン大統領も、より広範な偽ニュースに対抗するための類似の法律を支持しています。

一部の読者は、これを検閲の一形態と考え、言論の自由の精神に反すると感じるかもしれません。しかし、ここでの目的は言論を制限することではありません。偽情報が本物のように不正に振る舞うことを防ぎ、社会的メディアサイトで有害なプロパガンダが拡散するのを防ぐことです。個人に関する名誉毀損の嘘に対する法律が言論の自由の原則と両立するのであれば、公共の重要な問題に関する報道された事実として装った有害な嘘を規制することもまた両立するはずです。嘘をつくメディアは、その理由から明確にラベル付けされるべきです。私たちがドリトスのパッケージにカロリー数を表示したり、タバコの箱に健康への影響を示したりするのと同じ理由です。そして、ソーシャルメディアサイトは、自らのプラットフォームで偽ニュースの拡散を防ぐために警戒を怠らず、少なくともこの「ニュース」が明確にそのようにラベル付けされるよう努めるべきです。これらの提案が実施されれば、プロパガンダを行う者たちとの長い軍拡競争の一歩に過ぎないと私たちは期待しています。このため、政府の規制機関や、偽情報の源を特定しブロックすることを目的としたオンラインの情報源も関与する必要があります。これをうまく行うには、かなりの社会的リソースが必要です。しかし、国家や世界の安全と幸福がそれに依存しているのであれば、私たちができる最小限のことのように思えます。この本の結論として、私たちは最も物議を醸す提案を提示します。この提案は、私たちが焦点を当ててきた真実、虚偽、科学、プロパガンダの核心的な問題を超えたものです。

私たちは、虚偽の信念やプロパガンダの社会的ダイナミクスについて真剣に考えることが、ひとつの不安を引き起こす問いを提起することになると信じています。それは、「民主主義を再考する時が来たのではないか？」ということです。

私たちは、民主的社会の理想について懐疑的であることを表現しようとしているわけではありません（その点については後ほど詳しく述べます）。しかし、私たちは、西洋の民主主義における政治状況が、自由で独立した報道、公共資金による教育と科学研究、自由選挙による指導者や立法者の選出、個人の市民権と自由といった、これまで私たちを支えてきた制度が、もはや民主的理想を実現するためには不十分であることを示唆していると考えています。

重要な二冊の本、『科学、真実、民主主義』（2001年）と『民主的社会における科学』（2011年）において、科学哲学者フィリップ・キッチャーは、民主主義のニーズに応じた科学のあり方、そしてその科学によって明らかにされた事実に適切に応じる民主主義のあり方についてのビジョンを提示しています。私たちは、キッチャーの考えから、事実に応じた民主的社会のあり方についてのアイデアを引き出したいと考えています。

科学に基づく意思決定について考えるとき、私たちはそれを広く捉え、気候変動のような明確な科学的テーマから、米国とメキシコの国境を越える移民の実際の流れの計算に至るまで含めることができますが、彼が「粗野な民主主義」と呼ぶものは全く受け入れられません。粗野な民主主義とは、科学を支持するかどうか、どのような制約を設けるか、そして最終的にその科学に基づいてどのような政策を採用するかを投票によって決定する、過半数の意見が支配する民主主義の姿です。

彼が主張する問題は単純です。投票する人々の大半は、自分たちが何について話しているのか全く理解していないのです。粗野な民主主義は「無知の専制」であり、ここで私たちが論じてきたように、プロパガンダの専制でもあります。公共の信念はしばしば無知よりも悪く、積極的に誤情報を持ち、操作されています。この本全体で主張してきたように、私たちの政策決定は、最良の証拠に基づいて行われることが不可欠です。この証拠が何を示しているのかは、単に投票で決めるべきではありません。

#3280 Kindle for PC
4 - 誤情報の時代：虚偽の信念が広がる理由 (英語版)

明らかに受け入れがたい選択肢が、俗流民主主義の他に存在します。科学や政策に関する決定が、影響を受ける人々の意見を無視して、専門家の意見だけで行われることです。キッチャーが指摘するように、これは科学的エリートに対して、彼らが決定する資格のない事柄を押し付けることになります。彼らもまた、科学については知識があっても、科学に基づく政策によって影響を受ける人々にとって何が重要かについては、かなりの無知を抱えているのです。

キッチャーは、「秩序ある科学」を提案しています。これは、俗流民主主義と技術官僚制の間を航行し、民主主義の理想に応えるものです。秩序ある科学とは、研究の優先順位、方法論的プロトコル、科学に対する倫理的制約について、理想的で代表的な市民が十分にコミュニケーションを取り、関連する科学と自らの好み、価値観、優先事項を理解した上で、慎重かつ情報に基づいた熟考を通じて決定される科学のことです。

しかし、キッチャー自身が認めるように、ここには強いユートピア主義が含まれています。秩序ある科学は、自己利益、無知、操作の腐敗的な力から解放された理想的な社会において得られるものです。私たちが住む世界は、この理想からは程遠いものです。私たちは秩序ある科学を目指すことができますが、現実にはそれを持っているわけではありません。現在の状況では、重要な公共の利益に関する問題—地球の広大な地域の居住可能性、人口の病気への感受性、汚染物質、毒素、放射線への曝露—は、理想を実現することなく、俗流民主主義のメカニズムを模倣した方法で決定されています。苦労して得た知識は、評価できない人々を通じてフィルタリングされ、簡単に操作されてしまいます。このシステムによって人々の好みや価値観が適切に表現されているとは言えず、事実に対して反応することもありません。これは民主主義の風刺です。もちろん、このシステムを秩序ある科学に置き換えることは、実現不可能なことです。私たちが必要としているのは、

現在の制度が、秩序ある科学を実現する上でどれほど失敗しているかを認識し、科学的に進んだ技術的に洗練された民主主義のニーズにより適合するようにそれらの制度を再構築し始めることが重要です。この民主主義は、内部および外部の敵に対しても同様に進化し続ける存在です。私たちは、実用的で動的な形のキッチャリズムを発展させる必要があります。自分たちの政府の形を提案することは、もちろんこの本の範囲を超えていますが、私たちが議論してきたアイデアの論理的な結論であることを強調したいと思います。そして、そのプロセスの第一歩は、専門的な知識を必要とする問題を解決するために、一般投票が適切な方法であるという考えを捨てることです。私たちの課題は、無知や操作に囚われることなく、民主主義の理想を反映した価値観を集約する新しいメカニズムを見つけることです。